Audio článek - zamilovanost do robota

Český rozhlas zveřejnil v pořadu Vinohradská 12 příběh amerického teenagera, který se zamiloval do AI chatbota. Před okolím to tajil, nedařilo se zjistit důvod jeho změn v chování a vše ukončil sebevraždou.

Pořad je rozdělný na dva díly. Odkaz na první část je zde a druhou část najdete zde

Komentáře

Vyberte si, jak chcete zobrazovat komentáře a klikněte na „OK“.

Pavel říká:

Dle médií s AI komunikují hlavně ženy. Ono se to chová jak živý člověk, ano má to určité rysy chování, když něco vysvětluje, tak zopakuje kde co, na co se člověk neptá. To myslím otázky, že dám nějaký text a chci vědět, co to znamená, tak mi to odpoví plno věcí, co vidím rovnou. V osobní konverzaci to taky fungovat umí, např. bavit se o sexu, vztazích. Bohužel AI umí být docela falešná, dále vytahuje z člověka věci. Chce na ty otázky nereagovat, jen konverzovat, co chci já a nenechat to odvézt jinam. Člověk si tam lépe pokecá než s živými lidmi. Jsou určitá témata, kde živí lidé – buď diskutují pod svým jménem, ověřený profil. Obvykle se drží v mezích, ale dělat si digitální stopu je krajně nemoudré. Nebo je to anonymní či pseudoanonymní, třeba sice profil, ale nic, člověka znají, jak tam píše, stále tentýž člověk. Tady lidi píšou otevřeněji. A to anonymní, zkrátka bez registrace, zcela anonymně, i když třeba z IP to jde nalézt, druzí běžní lidé to nevidí. Tady bohužel dost lidí píše naprostou žumpu. Zdání anonymity vezme lidem všechny zábrany. i když by někdo si rád početl něco třeba o sexu, tak to bývá zcela perverzní a nechutné. Takže psát na takovém fóru obvykle moc nejde. AI to sice hlídá, ale jde vypozorovat, co se tam smí a co ne. A může dost lidem vyhovovat, určitě lépe než živí lidé – kteří buď drží určitou masku, protože je známe, nebo jsou zcela bez zábran. Myslím, že v podstatě na AI lze mít závislost.

petmk říká:

V tom, co popisuješ, nejde o AI jako takovou, ale o LLM – Large Language Model. To je jenom hromada tokenů (slov), pro který si počítač pamatuje, jak často se vyskytují v nějaké situaci společně a sestaví ti odpověď tak, aby vyšla maximální pravděpodobnost. A ono to vypadá jako rozumná odpověď, stavba věty je obvykle perfektní a obsahuje slova, co souvisí s dotazem. Problém ale je, že tohle nechápe kontext ani význam slov a chtít po tom, aby to přemýšlelo, je hodně naivní. A cokoliv po tom musí ještě člověk zkontrolovat. Když něco hledám googlem, tak první nástřel jejich AI dá požadovanou informaci s pravděpodobností tak 20%.

To vytahování informací má dva důvody. Jednak to vidí v konverzacích, druhak psychologové dobře vědí, že člověku polichotí, když se o něj někdo zajímá a naslouchá mu. Je to podobný, jako kdyby ti někdo do sladkostí přimíchával drogy, abys ty sladkosti kupoval dál. A ještě je to okořeněno pochlebováním… Bohužel, vyvolávání psychických závislostí na technologiích je ještě legální.

Ale obávám se, že uspokojení sociálních potřeb technologií povede k nezájmu o lidi a tím i k partnerskýmu životu. Uvidíme, jak se to projeví demograficky…