Az Anthropic hivatalosan is elállt attól a korábbi ígéretétől, hogy nem fejleszt és nem ad ki élvonalbeli mesterséges intelligencia rendszereket, amíg azok biztonságát előzetesen nem tudja megfelelően garantálni. A Claude a Time-nak adott interjúban erősítette meg a változást, ami egy könnyen megjósolható fordulópontot lett az AI-iparág önszabályozási gyakorlatában.
A cég korábban azzal különböztette meg magát versenytársaitól, hogy szigorú feltételekhez kötötte a fejlesztést, tehát bizonyos képességszintek fölé csak akkor lépett volna, ha az előre meghatározott biztonsági intézkedések már teljes mértékben rendelkezésre állnak.
Az új, módosított Responsible Scaling Policy ehelyett rugalmasabb megközelítést alkalmaz, és nem tartalmaz kategorikus fejlesztési moratóriumot.
Az Anthropic szerint a döntés pragmatikus és nem ideológiai természetű. A vállalat vezetői úgy érvelnek, hogy egy olyan piacon, ahol gyors iteráció és geopolitikai verseny határozza meg a tempót, az egyoldalú önkorlátozás nem fenntartható. Magyarul, ha senki sem tart igényt a csigolyákra, akkor ők sem engedhetik meg maguknak ezt a luxust.
Az új szabályozási keretrendszer részeként a cég egy úgynevezett "Frontier Safety Roadmapet" ígér, amiben részletesen bemutatják a tervezett biztonsági mérföldköveket, valamint rendszeres kockázati elemzéseket is terveznek, amelyek a modellek képességeit és a lehetséges kockázatokat értékelik. Az Anthropic azt is vállalja, hogy legalább a versenytársakkal azonos, vagy azoknál szigorúbb biztonsági gyakorlatot követ, és késlelteti a fejlesztést, ha úgy ítéli meg, hogy élen jár a mezőnyben, miközben jelentős, akár katasztrofális kockázatot azonosít.
Az eredeti, 2023-ban bevezetett politika egyes vezetők szerint akár iparági mintaként vagy későbbi szabályozás alapjaként is szolgálhatott volna. Azóta azonban a szövetségi AI-szabályozás az Egyesült Államokban megrekedt, a politikai környezet pedig kevésbé támogatja az átfogó keretrendszerek kialakítását.
A vállalatoknak így alapvetően azt önkéntes önkorlátozás vagy versenyképesség között kell dönteniük.
Izgatottan várjuk, hogy vajon hogyan döntenek a mesterséges intelligenciával foglalkozó nagyvállalatok, akiknek sokmilliárd dollárjuk áll a piacban.