A Microsoft hátszelét élvező OpenAI a NOYB nonprofit szervezet célpontjává vált, mivel nem hajlandó javítani a ChatGPT által közölt, pontatlan információkat – ez pedig sértheti az EU-s adatvédelmi törvényeket.
A NOYB egy olyan konkrét esetet említ, ahol a panaszos, aki egyébként közszereplő is, megkérdezte a ChatGPT-t a szülinapjáról. A ChatGPT újra és újra pontatlan információkat közölt, ahelyett, hogy megmondta volna, nem rendelkezik a szükséges adatokkal.
A NOYB szerint az OpenAI visszautasította a panaszos kérését az adatok pontosítására vagy törlésére vonatkozóan, arra hivatkova, hogy nem lehetséges az adatok korrekciója – továbbá semmilyen információt nem közöltek a feldolgozott adatokról, azok forrásáról vagy címzettjeiről.
A NOYB ezért panaszt nyújtott be az osztrák adatvédelmi hatósághoz, vizsgálatot kér az OpenAI adatfeldolgozása és a személyes adatok pontossága kapcsán.
A szervezet szerint egyértelmű, hogy a cégek jelenleg nem tudják megoldani, hogy a ChatGPT vagy más chatbotok megfeleljenek az EU-s törvényeknek, ha egyénekkel kapcsolatos adatok feldolgozásáról van szó. Amennyiben egy rendszer nem tud pontos és átlátható eredményekkel szolgálni, akkor azonban nem alkalmazható a személyekről adatok generálására. A technológiának kell követni a jogi előírásokat, és nem fordítva – tették hozzá.
Az OpenAI a múltban elismerte, hogy az eszközei hajlamosak hihetőnek tűnő, de pontatlan és értelmetlen válaszokat adni – ez egy olyan probléma, amelynek megoldását nagy kihívásnak tartják.