Satya Nadella arra figyelmeztette a vállalatokat, hogy az AI-szolgáltatások használatakor nemcsak pénzzel fizethetnek, hanem akaratlanul a saját üzleti tudásuk egy részét is átadhatják a technológiát biztosító cégeknek. A Microsoft vezérigazgatója ezt fordított információs paradoxonnak nevezte, és úgy véli, az AI használata során létrejövő tudásnak az ügyfélnél kellene maradnia. Nadella szerint egy általános AI-modell csak akkor válik igazán hasznossá egy vállalat számára, ha hozzáférést kap annak dokumentumaihoz, munkafolyamataihoz, szabályaihoz és belső tapasztalataihoz. Minél pontosabb válaszokat várnak tőle, annál több olyan információt kell megadni, amely a céget megkülönbözteti a versenytársaitól.
A kockázat nem korlátozódik arra, hogy valaki véletlenül bizalmas adatokat másol egy chatbotba. A modellek számára értékes lehet az is, hogy az alkalmazottak milyen utasításokat írnak, milyen eszközöket használnak, mely válaszokat fogadják el, és hogyan javítják ki az AI hibáit. Minden korrekció elárulhat valamit arról, hogyan működik az adott vállalat, mit tekint jó eredménynek, és milyen szakmai tapasztalat alapján hozza meg döntéseit. Nadella szerint ez olyan intézményi tudás, amelyet egy versenytárs hagyományos módon nem tudna egyszerűen megvásárolni. Az AI-rendszerek használata közben azonban kis részletekben, szinte észrevétlenül kerülhet át a szolgáltatóhoz, különösen akkor, ha annak szerződési feltételei lehetővé teszik a használati adatokból való tanulást.
Ez nem jelenti azt, hogy minden vállalati AI-szolgáltatás automatikusan betanítja modelljeit az ügyfelek bizalmas adataival. A pontos adatkezelés szolgáltatónként, előfizetésenként és a beállításoktól függően is eltérhet. Nadella elsősorban arra figyelmeztetett, hogy a cégeknek nem szabad ellenőrzés nélkül elfogadniuk olyan rendszereket, amelyeknél nem világos, ki használhatja fel később a kérdéseket, a visszajelzéseket és a munkafolyamatok során keletkező információkat. A Microsoft vezetője azt is ellentmondásosnak tartja, hogy az AI-cégek gyakran a tisztességes felhasználásra hivatkozva tanítják modelljeiket nyilvánosan elérhető tartalmakkal, közben viszont szigorúan tiltják, hogy más vállalatok az ő modelljeik válaszaiból készítsenek saját, olcsóbb rendszereket. Ezt a módszert modell-desztillációnak nevezik.
Nadella szerint nem működhet úgy a piac, hogy a tanulás kizárólag egyetlen irányba áramlik. Amennyiben a szolgáltató egyre többet tud meg ügyfele működéséről, miközben az ügyfél nem fér hozzá az így létrejövő tudáshoz, hosszú távon az AI infrastruktúráját birtokló vállalatoknál összpontosulhat a gazdasági előny. Megoldásként azt javasolta, hogy a cégek saját ellenőrzésük alatt álló környezetben használják az AI-t. Meg kell tartaniuk a kérdések, javítások, értékelések és vállalati memória feletti tulajdonjogot, valamint olyan technikai réteget érdemes kialakítaniuk, amely nem köti őket egyetlen modellhez. Így szükség esetén könnyebben válthatnak a különböző szolgáltatók vagy saját rendszerben futtatott nyílt modellek között.
A figyelmeztetés különösen érdekes a Microsoft vezetőjétől. A vállalat az AI-piac egyik legnagyobb szereplője, jelentős összegeket fektetett az OpenAI-ba és az Anthropicba, Azure felhőszolgáltatásán pedig több külső és saját modellt is kínál vállalati ügyfeleinek. A Nadella által javasolt privát felhőkörnyezetek és modellváltást segítő megoldások egyben a Microsoft üzleti érdekeit is szolgálhatják.
Az alapvető üzenet ettől még változatlan marad. A cégeknek az AI bevezetésekor nemcsak azt kell megvizsgálniuk, mennyibe kerül a szolgáltatás és milyen jól teljesít, hanem azt is, hogy mi történik a használata közben létrejövő üzleti tudással. Nadella szerint miközben egy vállalat intelligenciát fogyaszt, maga is új intelligenciát állít elő, ennek pedig az adott vállalat tulajdonában kell maradnia.
