Szerencsére a mesterséges intelligencia szabályozásáról szóló vita újra napirendre került, miután egy távozó és egy jelenlegi Anthropic-kutató is az emberiség fennmaradását veszélyeztető esetleges forgatókönyvről írt.
Ahogy korábban beszámoltunk róla, Jacob Coxon három év után távozott az AI-iparágból. Az OpenAI-nál és az Anthropicnál is dolgozó kutató többek között azt is megemlítette, hogy
"az AI-t fejlesztő emberek őszintén hiszik, hogy az évtized végére mindannyiunkat megölhet. Ez nem marketingfogás."
Coxon kijelentésével az Anthropicnál dolgozó Evan Hubinger is egyetértett, aki személyes becslése szerint 10 százaléknál nagyobb esélyt lát arra, hogy az AI a következő évtizedben az emberiség pusztulásához vezessen.
Mark Kelly demokrata szenátor szerint Washingtonnak ideje felébrednie és komolyan vennie a technológia veszélyeit, de Ted Cruz republikánus szenátor is a mesterséges intelligencia "katasztrofális kockázatait" kezelő szabályozást sürgetett, tehát oldaltól függetlenül is többen érzik a veszélyt.
A szomorú valóság viszont az, hogy Donald Trump nem osztja a kutatók aggodalmát.
Az amerikai elnök közölte, hogy nem tart attól, hogy az AI kiirtaná az emberiséget, szerinte az Egyesült Államokra nézve az jelentené a nagyobb veszélyt, ha elveszítené a technológiai versenyt Kínával szemben.
Szerintünk ennél veszélyesebb hozzáállás talán nincs is, hiszen a világ egyik legbefolyásosabb emberének a szavai mentén csak gyorsulhat az iparág és emiatt könnyen lehet, hogy fontos biztonsági intézkedések is a háttérbe szorulhatnak. Félő, hogy Donald Trump csak annyit lát a mesterséges intelligenciából, hogy néha Zöld Lámpást csinál belőle, iszonyatos mennyiségű pénz van benne, illetve ütőkártya lehet a Kínával folytatott versenyben.
Ennél viszont sokkal összetettebb ez a kérdés és mindannyiunk érdekében reméljük, hogy jobb belátásra lehet bírni.
Az Anthropic azt közölte, hogy továbbra is intenzíven vizsgálja modelljei potenciálisan veszélyes képességeit, különösen a kiberbiztonság és a biológia területén. Az OpenAI eközben kötelező, országos biztonsági követelményeket támogat, Sam Altman pedig sajtóértesülések szerint a fejlesztések lassítását sem zárta ki.
A két vállalat biztonsági figyelmeztetései és folyamatos terjeszkedése közötti ellentmondásról korábban részletesebben is írtunk.
