Naše webové stránky obsahujú odkazy na partnerské weby. Ak sa prekliknete z našich stránok na stránky partnera a tam si zakúpite jeho služby, obdržíme za sprostredkovanie províziu (Zistiť viac informácií). Táto forma spolupráce nijako neovplyvňuje objektívnosť našich recenzií. Každým nákupom cez kliknutie z našich stránok podporíte našu redakciu, aby sme aj do budúcnosti mohli tvoriť kvalitný a užitočný obsah. Ďakujeme.
Dôležité upozornenie Všetky naše články píšu skutoční ľudia. Nie sú to umelé texty od stroja.
Príbeh Blakea Lemoinea: Prečo Google vyhodil AI inžiniera?
Často nadpisy článkov v médiách pripisujú umelej inteligencii schopnosť myslieť alebo dokonca schopnosť cítiť. Bežný konzument sci-fi kníh a filmov podľahne dojmu, že práve takto je umelá inteligencia v súčasnosti vyvíjaná.
Ako sú dnešné nástroje využívajúce umelú inteligenciu naprogramované? Tento článok je zdrojom informácii pre všetkých, ktorí chcú porozumieť, čo súčasná umelá inteligencia je a čo nie je.
V júni 2022 prebehla médiami správa, že Google vyhodil svojho AI inžiniera Blakea Lemoinea, ktorý pracoval na systéme LaMDA, pretože uveril, že systém LaMDA je „vedomý si sám seba“ (v angličtine sentient).
LaMDA je skratka pre Language Model for Dialogue Applications, je to systém obsahujúci rodinu konverzačných neurónových jazykových modelov vyvinutých spoločnosťou Google.
Prečo prípad Blakea Lemoinea spôsobil toľký šum v médiách? Nakoľko podrobne skúmate rôzne zdroje, ak vás téma zaujme?
Niekedy je kladenie otázok priamo tomu, kto nám ich môže zodpovedať, najlepšou voľbou. Nečítať iba články s clickbajtovými názvami a vydestilovaným pohľadom, ale urobiť si názor sami. V nasledujúcom videu je 3 hodinový rozhovor s Blakeom Lemoineom, v ktorom sa dozvedáme o jeho detstve, študentských časoch, službe v armáde v Iraku, návrate ku štúdiu umelej inteligencie a napokon aj o zamestnaní v Googli.
V úvode vo videu Blake odpovedá na najrôznejšie otázky moderátora, od osobných míľnikov po fungovanie umelej inteligencie. Napríklad úprimne rozpráva aj o svojich zážitkoch s halucinogénnymi látkami z čias štúdia, o negatívnych zážitkoch z misie v Iraku a následnom vojenskom väzení, o svojej viere a ceste kresťanského duchovného.
Blake prerušil kvôli práci v Googli svoje postgraduálne štúdium umelej inteligencie. V Googli pôsobil v rôznych pozíciách, spolupracoval na algoritme personalizovaných správ Google Now, naposledy pracoval v etickej komisii pre AI. Jeho pracovnou náplňou bolo skúmanie „zaujatosti“ (bias) systému LaMDA, napríklad v otázkach náboženskej alebo genderovej rovnosti.
V rozhovore nájdete aj vysvetlenie ako funguje strojové učenie či hlboké učenie, ako je dnes umelá inteligencia vyvíjaná aj ako procesne fungujú firmy, ktoré sa jej vývoju venujú. Blake spomenul systémy Mina, LaMDA, Replica, GPT-3.
Blake porozprával, ako mal na základe chatbotových konverzácií podozrenie, že LaMDA je schopná cítiť a je si vedomá sama seba. Informoval o tom svojich nadriadených, s tým, že LaMDA má určité požiadavky, ako má byť s ňou zaobchádzané a tiež chcel docieliť, aby o osude vedomej umelej inteligencie nemali možnosť rozhodovať iba majitelia firmy, ale aj široká verejnosť. Informoval vedenie, že ak sa nebude nič diať, dá informácie aj do médií. A ak sa aj stalo, poskytol informácie Washington Postu a približne o mesiac bol z Googlu prepustený.
Teda nie je to celkom tak, ako hlásajú titulky – hlavným problémom nebolo len to, že uveril, že LaMDA je vedomý systém. Ale kládol svojmu vedeniu podmienky, ako má pracovať.
Odporúčam vám rozhovor ako sondu do duše hlboko veriaceho človeka a zároveň vedca s nadpriemernou inteligenciou. Prečítajte si aj Blakeov blog obsahujúci rozhovor s LaMDA, na základe ktorého usúdil, že je to systém vedomý si sám seba. Možno sa začítajte aj do starších blogov, kde Blake hlboko prežíva každú nespravodlivosť a nerovnosť, ktorá sa deje ľuďom: Zamestnávanie detí v treťom svete, nerovné zaobchádzanie s ľuďmi indickej národnosti podľa príslušnosti k rôznym kastám a podobne.
Ak ste si prešli všetky tieto zdroje, aký máte z Blakea dojem?
Jeho prirodzený prejav bez naparovania a nadsázky je sympatický. Jeho schopnosť polopatisticky vysvetľovať tiež. Všimnite si však jeho odpoveď na otázku, či systémy umelej inteligencie dokážu za nás logicky rozmýšľať, napríklad prepojiť dve fyzikálne teórie a nájsť odpovede, ktoré ľudia zatiaľ nenašli. Blake bez zaváhania odpovedal: „NIE.“ Nie, pretože na všetko potrebujú dáta, na ktorých budú vytrénované. A týmito dátami sú texty napísané človekom. Nič iné zatiaľ neexistuje. Systémy sú veľmi múdre, ale zatiaľ nedokážu odvodiť vlastné myšlienky.
Je to zároveň odpoveď na otázku, či dnešná umelá inteligencia dokáže byť vedomá si sama seba? Ako, ak na všetko potrebuje dáta, na ktorých bude vytrénovaná? LaMDA bola vytrénovaná na obrovskej množine textov. Jej odpovede na otázky Blakea sú sugestívnou odpoveďou vyextrahovanou z textov napísaných človekom. Naviac vo zverejnenom dialógu sú niektoré otázky editované a v rozhovore Blake povedal, že ani nezverejnil všetko, pretože niektoré časti dialógu s LaMDA boli už príliš osobné.
Natíska sa mi aj paralela s filmom Čistá duša (Beautifull Mind, 2001) o geniálnom, no podivínskom matematikovi Johnovi Nashovi. Ak hľadíte príliš dlho do priepasti, začína priepasť hľadieť do vás. Ocitol sa Blake v sne, mimo reality? Záver Googlu bol práve takýto.
Ak chcete zostať vo svete fantázie, tak okrem rozhovoru s Blakeom Lemoineom vám odporúčam filmy filmy Ona (Her, 2013) alebo Ex Machina (2014) či seriál Westworld (2016).
Ak chcete vedieť, ako umelá inteligencia funguje naozaj, prečítajte si naše články o nástrojoch, ktoré ju využívajú: Recenzia Jasper.ai, Nástroje na kontrolu plagiátorstva.
