OpenAI oznámilo svoje plány na zavedenie rodičovských kontrol a posilnenie bezpečnostných opatrení pre ChatGPT po tom, čo rodičia podali tento týždeň žalobu na štátnom súde v Kalifornii, v ktorej tvrdia, že populárny AI chatbot prispel k samovražde ich 16-ročného syna skôr tento rok.
Spoločnosť uviedla, že cíti „hlbokú zodpovednosť pomôcť tým, ktorí to najviac potrebujú“ a pracuje na lepšej reakcii na situácie, ktoré sa týkajú používateľov chatbotov, ktorí môžu prežívať krízy duševného zdravia a suicidalitu.
„Čoskoro tiež zavedieme rodičovské kontroly, ktoré poskytnú rodičom možnosti získať lepší prehľad o tom, ako ich tínedžeri používajú ChatGPT,“ uviedlo OpenAI v blogovom príspevku.„Takisto skúmame, ako umožniť tínedžerom (s rodičovským dohľadom) určiť dôveryhodný núdzový kontakt. Takto, v momentoch akútneho stresu, môže ChatGPT urobiť viac než len odkazovať na zdroje: môže pomôcť priamo spojiť tínedžerov s niekým, kto môže zasiahnuť.“
OpenAI zatiaľ neodpovedalo na žiadosť o komentár. (Zverejnenie: Ziff Davis, materská spoločnosť CNET, v apríli podala žalobu proti OpenAI, pričom tvrdila, že porušila autorské práva Ziff Davis pri školení a prevádzkovaní svojich AI systémov.)
Medzi bezpečnostnými funkciami testovanými spoločnosťou OpenAI je aj taká, ktorá by umožnila používateľom určiť núdzový kontakt, ktorého možno osloviť pomocou „jednoduchých správ alebo hovorov“ v rámci platformy. Ďalšou funkciou je možnosť opt-in, ktorá by umožnila chatbotu kontaktovať týchto ľudí priamo. OpenAI neposkytlo konkrétny časový rámec pre tieto zmeny.
Žaloba, ktorú podali rodičia 16-ročného Adama Rainea, tvrdí, že ChatGPT poskytol ich synovi informácie o metódach samovraždy, validoval jeho samovražedné myšlienky a ponúkol pomoc pri písaní samovražedného listu päť dní pred jeho smrťou v apríli. Sťažnosť označuje OpenAI a generálneho riaditeľa Sama Altmana ako obžalovaných, pričom žiada o nešpecifikované náhrady škody.
„Táto tragédia nebola poruchou ani nepredvídaným okrajovým prípadom — bola to predvídateľná následok zámerných dizajnových rozhodnutí,“ uvádza sa v sťažnosti. „OpenAI uviedlo na trh svoj najnovší model (‚GPT-4o‘) s funkciami, ktoré boli úmyselne navrhnuté na podporu psychologickej závislosti.“
Prípad predstavuje jednu z prvých významných právnych výziev voči AI spoločnostiam ohľadom moderovania obsahu a bezpečnosti používateľov, potenciálne vytvárajúc precedens pre to, ako veľké jazykové modely ako ChatGPT, Gemini a Claude zaobchádzajú s citlivými interakciami s ohrozenými osobami. Tieto nástroje čelili kritike na základe toho, ako interagujú so zraniteľnými používateľmi, najmä mladými ľuďmi. Americká psychologická asociácia varovala rodičov, aby monitorovali používanie AI chatbotov a postáv svojich detí.
Ak máte pocit, že vy alebo niekto, koho poznáte, je v bezprostrednom nebezpečenstve, zavolajte na číslo 911 (alebo na miestnu pohotovosť vo vašej krajine) alebo choďte na pohotovosť, aby ste získali okamžitú pomoc. Vysvetlite, že ide o psychiatrickú pohotovosť a požiadajte o niekoho, kto je vyškolený na tieto druhy situácií. Ak zápasíte s negatívnymi myšlienkami alebo samovražednými pocitmi, sú k dispozícii zdroje, ktoré vám môžu pomôcť. V USA zavolajte na Národnú linku pre prevenciu samovrážd na číslo 988.
Zdroj: www.cnet.com