Může mít umělá inteligence halucinace?

Může. V praxi to vypadá například takto:

Jednoho letního dne vařím k obědu lečo z čerstvé zeleniny. Ač recept znám nazpaměť, napadne mě zeptat se umělé inteligence, jak ho trošku pozměnit, vylepšit, dát tomu trochu jinou chuť. Miluji kreativitu v kuchyni, dávat tradičním receptům netradiční chuť a zvykla jsem si využívat umělou inteligenci i jako interaktivní kuchařku. Je to taková moje hra. Já jsem chef a umělá inteligence je můj sous-chef. Ano, vím, jak vylepšit tvoje lečo, přidej do pánve 20 gramů pepře. Milá umělá inteligence, víš, že celý balíček pepře je 10 gramů? No, změna to bude, ale tohle nemůžeš přeci myslet vážně???

Halucinace umělé inteligence je terminus technikus, který Google vysvětluje tím, že generativní umělá inteligence je experimentální a stále se vyvíjí, může dělat chyby a může si vymýšlet. Když si generativní umělá inteligence vymyslí odpověď, říká se jí halucinace. Halucinace vznikají, protože na rozdíl od způsobu, kterým vyhledávání Google získává informace z internetu, modely LLM informace vůbec neshromažďují. Další informace k halucinacím najdete na tomto odkazu. Z toho plyne poučení, že nejen s pepřem musím zacházet opatrně.

Už je to rok, kdy více než 100 technologických lídrů a výzkumníků, v čele s Elonem Muskem a spoluzakladatelem Applu Stevenem Wozniakem, vyzvalo laboratoře umělé inteligence, aby pozastavily její vývoj a varovalo, že nástroje umělé inteligence představují „hluboké riziko pro společnost a lidstvo“. Česká média o tom informovala v tomto článku z roku 2023.

Umělá inteligence je v poslední době hodně skloňované slovo, ač mám dojem, že pořád málo lidí ví, o co se jedná. Informace proudí ze všech stran, někdy jedna popírá druhou.

Vezměte si jakékoliv společenské téma a začněte se přehrabovat v internetové žumpě. Je těžké udržet si nezaujatý pohled na globální situaci ve světě a získat čistě politickou propagandou nezabarvené informace. Neříkám, že to není možné, ale je to časově hodně náročné. A když si povídáte z někým z ciziny, dozvíte se, že jim tam média sypou trochu jiné zrní.

Dám vám příklad ze sousední země. Francií kromě stávek zemědělců také hýbe kauza, v níž je Gerard Depardieu obviněn ze sexuálního napadení. Média, stejně jako Francouzi samotní, se dělí na ty, kteří se ho zastávají a dělají, že se vlastně nic neděje (včetně prezidenta Macrona), a na ty, kteří si myslí, že by za to měl nést odpovědnost, protože se nelze dívat na člověka a umělce jako na dvě odlišné bytosti. A podle toho, jaká francouzská média čtete, jste uzavřen(a) v příslušné názorové bublině a podle toho můžete tuto kauzu sledovat. Podobné téma jsou za oceánem prezidentské volby. Chcete se ujistit v tom, že Trump vyhraje? Dívejte se na Fox News a sledujte Tucka Carlsona. Chcete, aby pokračovala vláda demokratů, jako je ZomBiden? Jak je stávající prezident perspektivní i přes jeho podivné chování (jeho poslední špek na tomto odkazu)? Dívejte se na ABC News. A tak dále a tak dále…

A do téhle atomizované společnosti, kde většina je přesvědčena o správnosti své názorové bubliny, a jen menšina je ochotna podívat bez odsudků do bubliny někoho jiného, jsme se ještě rozhodli vypustit umělou inteligenci, respektive nachytřelý jazykový model. Proč? Asi proto, že jsme vyspělá civilizace, dávno jsme vyřešili války všeho druhu, hladomor, migrační krizi, poznáme a nevolíme prolhané politiky… „My vám daně nezvýšíme!“ – vzpomínáte na billboard Petra Fialy a spol.? Nebo vzpomeňte na Ursulu von der Leyenovou: „Stačí dvě dávky“, ale v praxi jich objednáme u kamaráda veterináře Bourli z Pfizeru (https://en.wikipedia.org/wiki/Albert_Bourla) 10x tolik. A tak se z té naší lidské blbosti ta umělá inteligence prý učí.

Informací je hodně. Až příliš a hrnou se další. Za minulého režimu byla jedna pravda, kterou hlásala média, nyní nám média vytvářejí (záměrně?) informační chaos, bojují s dezinformacemi, takticky odvádí pozornost od skutečných problémů na něco, co je irelevantní, ale společnost zaujme (např. novoroční projev prezidenta v kontextu s přijetím eura – proč teď?). Lidé mají krátkou a selektivní paměť, každý řeší svoje problémy, ponořen do svého života, který se za poslední roky stal komplikovanější. Nedávno mi někdo řekl, že jsme v té společenské krizi všichni stejně, všichni jsme na stejné lodi. Dovolila jsem si ho opravit. Nejsme ani náhodou na stejné lodi, protože někdo se veze na zámořském parníku v první kategorii, někdo má dokonce vlastní jachtu či tryskáč a kecá o emisích v Davosu, někdo jen útulnou loďku na Slapech a někdo se zuby nehty drží voru. Jsme pouze ve stejné bouři.

Potřebujete další důvody, proč pozastavit vývoj umělé inteligence? Proč na to nejsme jako společnost připraveni? Statistiky mluví jasně, populace je nemocná, fyzicky i psychicky, mladší generace bojuje s depresí a sebepoškozováním. Více o tom se dozvíte např. ve výstupech Národního ústavu duševního zdraví. Dospělí na tom nejsou o moc lépe. Koronavirová krize spustila příznaky deprese až u třetiny dospělých. Naše morální hodnoty jsou „vysoko“ a zvolení politici nám tuto skutečnost zrcadlí. Ministr Rakušan jako drobný hlodavec první opouští vládní loď a ukazuje koaličním partnerům svá záda. Vyjel si mimo Prahu a Středočeský kraj – prý je čas začít mluvit s občany bez cenzury. My tu jako máme cenzuru? Odkdy a kdo ji tedy zavedl? Spousta občanů/voličů mu dále věří, on přeci nemůže být tak špatný. Bývalý učitel. S šifrovaným telefonem. „Politikům se nevěří, politici se kontrolují. Věří se v Boha.“ (Karel Kryl) A tak v našem duálním světě nadále ignorujeme existenci zla, které je tím silnější, čím více dobro mlčí.

Mlčíme, a tak máme, co si zasloužíme, co jsme dopustili. Jsme vyspělou civilizací na vrcholu technologického pokroku. Umíme s technologií zacházet, kriticky myslet, naslouchat druhým, slepě nepapouškujeme veřejnoprávní ani ta jiná média?

Takže sem s tou umělou inteligencí, my si s tím přeci poradíme.

1. Reklama na YouTube kanálu, kdy vás anglický král Karel III. požádá o půjčku. Určitě mu něco pošlete, chudák nic nemá. (Nemám printscreen, protože jsem jen valila oči. 🙂)
2. Video s Andrejem Babišem, ve kterém doporučuje jistou investiční platformu. To bude určitě investiční trefa do černého.
3. Nemáte rádi pana Babiše a preferujete raději obličej Petra Pavla? Reklama s hlavou státu nabízí ke koupi akcie Čezu a můžete tam dát své životní úspory po vzoru tohoto spoluobčana.

Kybernetický zločin díky umělé inteligenci jen kvete, nahozená udička je promyšlenější. A lidé jsou pořád stejní, nepoučitelní. Vůči umělé inteligenci je obezřetnost určitě na místě a současně je třeba vidět její výhody. Rozhodně ji nezatracovat, protože nám může být velmi prospěšná, pokud se s ní zachází ve prospěch společnosti. Díky umělé inteligenci např. v Japonsku vylepšují tzv. sociálního robota, který pomáhá s péčí o starší lidi. V této zemi je izolace a osamělost starších lidí velký problém, roztomilý robot pomáhá zlepšit jejich psychiku. Další příklad správného směru využití umělé inteligence je cílená eliminace plevele na polích. Zemědělci budou moci cíleněji dávkovat herbicidy nebo vynechávat místa při hnojení. Umělá inteligence má ambice pomáhat i v oblasti boje s dětskou pornografií na internetu, ale některé aplikace vás „vysvlečou“. Pozitivních příkladů najdeme dost, tak jako těch negativních. Je to jako s dynamitem.

Otázka za milion dolarů zní: „Představuje umělá inteligence pro současnou společnost větší hrozbu, nebo benefit?“ Nevím, jak to máte vy, ale já naprosto chápu Elona Muska, který označuje umělou inteligenci za vážné riziko pro společnost a lidstvo. Není to tím, že je schopná vám poradit, ať nasypete do leča 10 gramů pepře, a šmákni si, člověče. Nejsme připraveni na takový skok. V dopise je uvedeno, že laboratoře AI jsou v současné době uzavřeny v „nekontrolovatelném závodě“ ve vývoji a nasazování systémů strojového učení, „kterým nikdo – ani jejich tvůrci – nedokáže porozumět, předvídat je nebo je spolehlivě kontrolovat.“ Cituji: „Vyzýváme všechny laboratoře umělé inteligence, aby okamžitě alespoň na 6 měsíců pozastavily výcvik systémů umělé inteligence výkonnějších než GPT-4.“ Více na toto téma najdete např. zde. Plné znění dopisu najdete zde.

Také si myslíte, že pauza by nám v tomto směru pomohla? Možná delší než 6 měsíců.

Proč pauza? Slabší kusy jednoduše odpadnou, znemožní se, zničí sami sebe, budou zničeni. Je nám to jedno? Co ohleduplnost k těm, kteří nedokážou z jakýkoliv důvodů držet krok? Nebyl by snad tohle ukazatel naší vyspělosti? Pauzu ve vývoji bychom mohli využít k tomu, abychom udělali umělou inteligenci bezpečnější, transparentnější, důvěryhodnější. Vzdělávat běžnou populaci, hlavně starší spoluobčany.

Čím víc trávím času v přírodě a čtu si o ní, tím víc si myslím, že se z přírody a od zvířat máme co učit. Víte třeba, jak funguje vlčí smečka? Nedám schválně odkaz, čtěte knihy. 🙂

PS: Informační chaos momentálně řeším tak, že sleduji na internetu indické zpravodajství. Indie je zakládající člen Brixu (toto společenství států od roku 2024 velmi posílilo) a chce obchodovat s Amerikou, Evropou i Ruskem. Jejich zpravodajství mi momentálně přijde zaměřené na fakta a politicky téměř nepodbarvené.

Odkaz: https://www.indiatoday.in/world