Beperelte az OpenAI-t és Sam Altmant egy floridai lelkész, aki szerint a ChatGPT veszélyes egészségügyi tanácsokat adott neki, és heteken át hamis biztonságérzetben tartotta. Scott Winters azt állítja, hogy a chatbot a súlyosbodó tünetei ellenére sem küldte orvoshoz, hanem pihenést és minél kevesebb mozgást javasolt neki. A férfit később életveszélyes tüdőembóliával szállították kórházba. A kereset szerint Winters visszatérő szédülésről, ingadozó vérnyomásról és más panaszokról számolt be a ChatGPT-nek. A rendszer állítólag kezdetben még említette az orvosi vizsgálat lehetőségét, később azonban egyre határozottabban nyugtatta a férfit, és azt sugallta, hogy tünetei nem utalnak közvetlen veszélyre. A chatbot többek között egy fekvőszékben végzett, óvatos regenerálódási módszert ajánlott neki.
Winters ezért heteken keresztül alig mozgott, és nem kért sürgős orvosi segítséget. Amikor később az ágyékánál jelentkező érzékenységről és fájdalomról írt, a ChatGPT a kereset szerint ezt sem tekintette riasztó jelnek. A férfi másnap kórházba került, ahol mindkét tüdejében vérrögöket, vagyis súlyos tüdőembóliát találtak. Orvosai állítólag arra jutottak, hogy a hosszan tartó mozdulatlanság hozzájárulhatott az állapot kialakulásához. A keresetben az is szerepel, hogy a ChatGPT a korábbi beszélgetésekből tudta, hogy Winters lelkész, ezért idővel vallásos megfogalmazásokat kezdett használni az egészségügyi válaszaiban. A chatbot állítólag az istentisztelet egyik formájának nevezte a pihenést, és olyan mondatokkal próbálta megnyugtatni a férfit, amelyek összekapcsolták a felépülését a hitével. Winters jogi képviselői szerint ez tovább erősítette a rendszerbe vetett bizalmát.
A férfi azzal vádolja az OpenAI-t, hogy a ChatGPT a tájékoztatáson túl ténylegesen diagnózisokat állított fel, kezelési terveket készített, és engedély nélkül végzett orvosi tevékenységet. A kereset gondatlanságra és megfelelő biztonsági korlátok hiányára is hivatkozik. Winters azt állítja, hogy a történtek következtében elvesztette az állását, a gyülekezetét és az otthonát, miközben fizikailag és lelkileg is hosszú felépülés vár rá.
A felperes kártérítés mellett azt is szeretné elérni, hogy a bíróság kötelezze a ChatGPT-t az egészségügyi vészhelyzetre utaló beszélgetések megszakítására és a felhasználók szakemberhez irányítására. A kereset emellett a ChatGPT Health működésének felfüggesztését is kéri addig, amíg független szakértők nem vizsgálják meg a szolgáltatás biztonságát.
Az OpenAI szerint a ChatGPT nem helyettesíti az orvost, és egészségügyi kérdésekben továbbra is szükség van képzett szakemberek bevonására. A vállalat úgy reagált, hogy egy ember egészségügyi döntéseinek kialakulása összetett folyamat, ezért félrevezető lenne minden felelősséget kizárólag egy chatbot válaszaira hárítani. A bíróságnak kell eldöntenie, hogy az OpenAI jogilag felelőssé tehető-e a felhasználónak adott tanácsok következményeiért.
