A GDPR megsértése miatt bepanaszolták az OpenAI-t Ausztriában
A ChatGPT online felülete
Panaszt nyújtott be az osztrák adatvédelmi hatóságnál az Nyob néven futó NGO. A jogászként dolgozó Max Schrems által alapított szervezet szerint a ChatGPT-t működtető OpenAI megsértette az EU általános adatvédelmi rendeletét, azaz a GDPR szabályait. A panasz a mesterséges intelligencia nagy nyelvi modelljei által adott téves válaszokra fókuszál, a hatóságtól pedig azt kéri, hogy vizsgálja meg az ügyet, és ha szükséges, szabjon ki bírságot és rendeljen el korrekciós intézkedéseket.
Közleményében a civil szervezet azt írja, hogy a vállalat tisztában van a panaszban említett problémákkal, de megoldás keresése helyett figyelmen kívül hagyja azt. Az Euractiv kereste az OpenAI-t, hogy reagáljanak a panaszra, de nem kaptak választ a kérdéseikre.
A ChatGPT, és az ahhoz hasonló nagy nyelvi modellek egy hatalmas adattárból választják ki a legvalószínűbb szavakat, melyeket bizonyos felszólításokra, kérdésekre írnak válaszul. Előfordul, hogy a rendszer rossz szavakat használ, helytelen választ ad, amire az iparági szakzsargon azt mondja, hogy “hallucinál”.
A Noyb szerint a hallucináció számos esetben elfogadható, de egyének esetében nem, ugyanis az uniós jog 1995 óta előírja, hogy a személyes adatoknak mindig pontosnak kell lenniük – az elvet pedig a GDPR, azaz az EU 2016-os adatvédelmi törvénye is rögzíti. A Noyb a beadványban egy olyan közszereplő példáját említi, akinek születési dátuma nem érhető el az interneten, a ChatGPT viszont tévesen következtetett a születési dátumra, amikor megkérdezték. A szervezet szerint 2023 decemberében az OpenAI nem adott kielégítő választ, amikor az adatra törlést kértek, márpedig az adatkezelők a GDPR értelmében kötelesek az érintetteknek hozzáférést biztosítani a személyes adataik feldolgozására vonatkozó információkhoz, nyílt kérésre pedig törölni azokat. Az OpenAI viszont csak annyit mondott a kérelemre, hogy megakadályozzák, hogy a modell bármilyen választ adjon a születési dátumra vonatkozó kérdésre, a korábban megadott választ viszont nem tudják korrigálni.
Maartje de Graaf, a Noyb jogi képviselője szerint a vállalatok jelenleg nem tudják garantálni, hogy a ChatGPT-hez hasonló chatbotok az egyénekre vonatkozó adatok feldolgozása során megfeleljenek az uniós jogszabályoknak.
“Ha egy rendszer képtelen pontos válaszokat adni, akkor nem generálhat adatokat egyénekről. A technológia kell megfeleljen a törvényi előírásoknak, nem pedig fordítva
– közölte de Graaf.
Az NGO szerint a ChatGPT nem tudja kijavítani és választékosan blokkolni az információkat, és szerintük a cég annyival elintézi a problémát, hogy az érintettnek éljenek együtt a helyzettel. Közölték, hogy az OpenAI írországi irodája ugyan működik, de ez csak a látszat, mert az összes döntést az Egyesült Államokban hozzák, éppen ezért a panaszt a cég egyik amerikai for-profit vállalkozása, az OpenAI OpCo LLC ellen nyújtják be, melyet a ChatGPT is említ az általános szerződési feltételek között.