Keď začnete rozhovor s ChatGPT, možno si všimnete text na spodnej časti obrazovky: „ChatGPT môže robiť chyby. Skontrolujte dôležité informácie.“ To platí aj pre nový model GPT-5, ktorý tento týždeň potvrdil vyšší predstaviteľ OpenAI.

„Problém s dôveryhodnosťou je, že medzi veľmi dôveryhodným a 100 percentne dôveryhodným je veľký rozdiel, pokiaľ ide o to, ako si produkt predstavujete,“ povedal Nick Turley, vedúci ChatGPT v OpenAI, v podcaste Decoder na The Verge. „Pokým nebudeme preukázateľne dôveryhodnejší než ľudský expert vo všetkých oblastiach, nielen v niektorých, budeme vás naďalej nabádať, aby ste si odpoveď dvakrát skontrolovali.“

To je niečo, o čom sme už dlhší čas informovali v oblasti chatbotov v našom pokrytí AI. OpenAI robí to isté.

Vždy si to dvakrát skontrolujte. Vždy si overte. Hoci chatbot môže byť užitočný pri niektorých úlohách, môže tiež úplne vymyslieť veci.

Turley je optimistický, že sa na tejto fronte zlepší.

„Myslím si, že ľudia budú naďalej využívať ChatGPT ako druhý názor, namiesto toho, aby ho považovali za svoj primárny zdroj faktov,“ povedal.

Problém je v tom, že je naozaj lákavé prijať odpoveď od chatbota — alebo prehľad AI vo výsledkoch vyhľadávania Google — ako pravdivú. Ale generatívne AI nástroje (nielen ChatGPT) majú tendenciu „halucinovať“, alebo vymýšľať veci. Robia to, pretože sú primárne navrhnuté na predpovedanie odpovede na dopyt na základe informácií nájdených v ich tréningových údajoch. Generatívne AI modely nemajú konkrétne pochopenie pravdy. Ak hovoríte s lekárom alebo terapeutom alebo finančným poradcom, táto osoba by vám mala poskytnúť správnu odpoveď pre vašu situáciu, nielen tú, ktorá je najpravdepodobnejšia. AI vám vo väčšine prípadov poskytne odpoveď, ktorú považuje za najpravdepodobnejšie správnu — bez konkrétnej odbornej znalosti na overenie.

Aj keď je AI celkom dobrá v hádaní, stále je to vo väčšine prípadov iba hádanie. Turley uznal, že nástroj najlepšie funguje v kombinácii s niečím, čo poskytuje lepšie pochopenie faktov, ako je tradičný vyhľadávač alebo špecifické interné údaje spoločnosti. „Stále verím, že, bez otázok, správny produkt sú LLM spojené so základnou pravdou, a preto sme do ChatGPT pridali vyhľadávanie a myslím, že to robí obrovský rozdiel,“ povedal.

(Zverejnenie: Ziff Davis, materská spoločnosť CNET, v apríli podala žalobu proti OpenAI, pričom tvrdila, že porušila autorské práva Ziff Davis pri tréningu a prevádzkovaní svojich AI systémov.)

Neočakávajte, že ChatGPT bude všetko správne ešte teraz

Turley povedal, že GPT-5, najnovší veľký jazykový model, ktorý podopiera ChatGPT, je „obrovským zlepšením“ pokiaľ ide o halucinácie, ale stále je ďaleko od dokonalosti. „Som si istý, že nakoniec vyriešime halucinácie a som si istý, že to neurobíme v ďalšom štvrťroku,“ povedal.

Pri testovaní GPT-5 som už videl, že sa dopustil niekoľkých chýb. Pri testovaní nových osobností jazykového modelu sa pomýlil v college football rozvrhu a povedal, že zápasy naplánované na jeseň sa všetky uskutočnia v septembri.

Uistite sa, že kontrolujete akékoľvek informácie, ktoré získate od chatbota, s nejakým spoľahlivým zdrojom pravdy. To môže byť odborník ako lekár alebo spoľahlivý zdroj na internete. A aj keď vám chatbot poskytne informácie s odkazom na zdroj, neverte, že bot túto informáciu správne zhrnul. Môže mať na ceste k vám pokrivené fakty.

Ako sa rozhodujete o informáciách, pokiaľ vám na správnom rozhodnutí záleží, dvakrát si skontrolujte, čo vám AI hovorí.

Zdroj: www.cnet.com