Néhány évvel ezelőtt ez a kijelentés, illetve az erre vonatkozó szabályzat léte még szürreális lett volna, de azóta nagyot fordult a világ: a Microsoft nyilvánosságra hozta az AI-modelljeire vonatkozó új magatartási kódexét, amelynek egyik legfontosabb alapelve, hogy az AI-rendszerek soha nem állhatnak ellen az emberi megszakításnak, korrekciónak vagy leállításnak. A vállalat ezt a "Humanist AI" megközelítés egyik fő alapelveként határozta meg, amely szerint a mesterséges intelligenciának az embereket kell szolgálnia, és nem szabad önálló személyként tekintenie önmagára. Értsd, Isaac Asimovnak a robotikára vonatkozó törvénye immáron nem a jövő, hanem a jelen.
A dokumentum szerint a Microsoft MI-modelljei nem növelhetik saját hatáskörüket, nem lőhetnek be olyan célokat, amelyeket nem ember adott nekik, és nem rejthetik el működésüket az őket ellenőrző szakemberek elől. A vállalat különösen fontosnak tartja az úgynevezett abszolút korlátokat is: a modelleknek például nem szabad tömegpusztító fegyverek fejlesztésében segédkezniük, gyermekeket veszélyeztetniük vagy nagy léptékű károkozó manipulációban részt venniük.
Nem, mintha ezeken kívül ne lenne más illegális tevékenység a Földön. A Microsoft nem is állítja, hogy a szabályzat önmagában garantálja a biztonságot. A dokumentum szerint a viselkedési előírások nem tudják minden elképzelhető helyzetben biztosítani, hogy egy modell az elvárásoknak megfelelően működjön. Ráadásul a vállalati ügyfelek bizonyos mértékig saját igényeikhez igazíthatják a rendszerek viselkedését, ami olyan szabadságot adhat nekik, melyekkel nem megfelelően konfigurálhatják a rendszert.
A Microsoft ezért egy nyilvános konzultációt indított a szabályzatról, amelyhez bárki hozzászólhat. A vállalat ígérete szerint összefoglalja majd a beérkező javaslatokat, és azok alapján még idén elkészíti a módosított változatot. Reméljük, azt ellenőrizni fogja, hogy a konzultációban ne AI-rendszerek vegyenek részt és súgjannak-búgjanak olyan dolgokat, ami a saját érdekeiket szolgálják.
Viccet félretéve a szabályzat időzítése különösen érdekes, mivel az AI-iparban éppen arról zajlik vita, hogy lassítani kéne a modellek fejlesztését. A Microsoft álláspontja a kérdésben nem a fejlesztések leállítása, hanem egy olyan keretrendszer kialakítása, amelyben az egyre nagyobb teljesítményű AI-rendszerek továbbra is emberi ellenőrzés alatt maradnak.
