Hirdetés

Több chatbot is hivatkozik a Grokipediára egyes lekérdezésekben



|

Amikor az AI a másik AI hallucinációja alapján hallucinálja a választ.

Hirdetés

A The Guardian beszámolója szerint nemcsak a ChatGPT, hanem az Anthropic Claude nevű AI-chatbotja is hivatkozott forrásként a Grokipediára egyes lekérdezések során. Az OpenAI a lapnak azt közölte: a ChatGPT webes keresése "széles körű, nyilvánosan elérhető forrásokra és nézőpontokra" támaszkodik, valamint biztonsági szűrőket alkalmaz annak érdekében, hogy csökkentse a súlyos károkkal összefüggő tartalmak megjelenésének kockázatát. A cég hangsúlyozta azt is, hogy a chatbot egyértelműen jelöli a válaszaihoz felhasznált forrásokat.

Biztonsági szakértők ugyanakkor arra figyelmeztetnek, hogy a nagy nyelvi modellek manipulálhatók, és olyan módszerekkel, mint az úgynevezett "LLM Grooming", félrevezető vagy hamis információk terjesztésére is rávehetők. Bár nem bizonyított, hogy harmadik fél szándékos beavatkozása állna amögött, hogy a ChatGPT és a Claude a Grokipediát használta forrásként, a The Guardian szerint a jelenség mindenképpen aggasztó, különösen egy olyan információs környezetben, ahol az AI-rendszerek egyre nagyobb szerepet játszanak.

Hirdetés

A Grokipediát Elon Musk mesterséges intelligencia vállalata, az xAI működteti, és a Grok nevű chatbot hajtja. Musk a Grokipediát a Wikipédia alternatívájaként hozta létre, amelyet évek óta bírál, a kezdeményezés azonban rövid idő alatt politikailag terhelt témákban terjedő hamis információk forrásává vált. A Grok egyébként is sűrűn keveredik botrányokba, legutóbb például fiatalkorú lányokat vetkőztetett le képeken. Musk maga is egyre nyíltabban kötődik finoman szólva is megkérdőjelezhető ideológiákhoz: néhány hete például olyan képet osztott meg az X-en, amely pozitív színben tüntette fel az egykori apartheid államot, Rodéziát, a mai Zimbabwét.

Hirdetés

Úgy tűnik, AdBlockert használsz, amivel megakadályozod a reklámok megjelenítését. Amennyiben szeretnéd támogatni a munkánkat, kérjük add hozzá az oldalt a kivételek listájához, vagy támogass minket közvetlenül! További információért kattints!

Engedélyezi, hogy a https://www.pcwplus.hu értesítéseket küldjön Önnek a kiemelt hírekről? Az értesítések bármikor kikapcsolhatók a böngésző beállításaiban.