De ani buni deja, e plimbat prin lumea largă ca ursul prin târg, un robot umanoid pe nume Sophia. Mai mult sau mai puțin voalat creatorii robotului îl prezintă peste tot ca o mașinărie ce gândește singură, adică are Inteligență Artificială. Robotul Sophia dă interviuri, ține conferințe la Națiunile Unite scrie tweet-uri și e cetățean al Arabiei Saudite.
Sophia este impresionantă. Fața ei este realizată dintr-un silicon special numit Frubber (de la flesh și rubber) care datorită flexibilității sporite permite robotului să reproducă 62 de expresii faciale. Fața este animată de un mecanism complex de actuatoare puse în mișcare de mai mult de o duzină de micro-motoare. Tot acest mecanism are în spate un software, care conform creatorilor robotului, folosește algoritmi de învățare precum asistentele inteligente din telefoanele noastre.
Dar astfel de roboți umanoizi, care cel puțin prin aparențele fizice ne pot păcăli că sunt oameni, există de multă vreme. În Japonia sunt hoteluri și multe alte afaceri care folosesc asemenea roboți în special ca interfață pentru clienți.
Și atunci de ce toată lumea vorbește doar de Sophia ? Un robot umanoid care în sine nu mai prezintă vreo noutate.
Lumea vorbește de Sophia pentru că cei de la Hanson Robotics, compania din spatele robotului, s-au prins că se pot folosi de bâjbâiala globală legată de AI și uriașul hype planetar pentru a transforma robotul într-un puternic vehicul de marketing și PR.
Cum ? Prin interviuri și conferințe regizate în așa fel încât să pară că Sophia este mai mult decât un simplu robot cu expresii faciale realiste și că este un robot care gândește ceea ce vorbește. Truc care a ieșit și mediatic și cu zero-uri pe cecurile investitorilor.
Dar jocul demn de un spectacol desprins din parcul Disneyland nu este deloc întâmplător. Fondatorul Hanson Robotics este Dr. David Hanson, un fost “imagineer” de la Disney, persoană responsabilă pentru construirea unor astfel de “instalații” precum roboții umanoizi.
Magia Sophia “ține” pentru că robotul este programat să pară că gândește și exprimă emoții contextual. Face glume, dă răspunsuri simple și filozofice, are exprimări faciale relevante dialogului purtat, cu alte cuvinte creează o puternică impresie de robot inteligent. Ceea ce în sine este o performanță de toată lauda.
Dacă nu vă plictisesc detaliile tehnice puteți afla cum funcționează Sophia din interviul acordat revistei Quartz de Ben Goertzel, “arhitectul creierului Sophiei”.
Sophia este o interfață pentru utilizator care poate fi programată diferit pentru diferite situații. Software-ul Sophiei poate fi împărțit în trei secțiuni:
- O platformă de cercetare pentru echipa AI de la Hanson. Sophia poate răspunde de una singură, fără raspunsuri pre-programate, la întrebări simple ca de exemplu : la cine te uiți ? sau este ușa deschisă sau închisă ?
- Un robot vorbitor-recitator. Goertzel spune că Sophiei i se poate instala un text pe care îl va vorbi și cu ajutorul unui algoritm de tip “mașină care învață” va asocia expresii faciale și pauze în text relevante cu ceea ce vorbește.
- Un chatbot robotizat. Sophia poate rula un sistem prin care se poate uita la oameni, îi ascultă și le oferă un răspuns pre-programat în funcție de ce a zis interlocutorul și de ce alte elemente legate de subiect agreghează de pe internet.
Cea mai apropiată comparație făcuta de Goertzel cu o asistentă inteligentă existentă ar fi Siri de la Apple. “Este un fel de chatbot cu un pic de înțelegere contextuală”
În aceste explicații punctuale Goertzel este mai mult decât cinstit în ceea ce privește capabilitățile reale ale robotului. Nici nu putea spune altceva. Spre meritul lor Hanson Robotics a pus la dispoziția publicului codul sursă folosit pentru Sophia.
Dar în promovarea robotului și prin el a întregii companii, Hanson Robotics se apropie periculos de ceea ce poate fi foarte ușor văzut ca un fel de escrocherie.
Cei de la Hanson Robotics nu vor ca Sophia să creeze impresia unui simplu robot inteligent ci a unuia aproape capabil de AGI, adică mult mai mult. La ora asta, infinit mai mult.
Inteligența Artificială Generală (Artificial General Intelligence – AGI) este pocalul de aur al industriei AI. Este inteligența la care visăm și se referă la inteligența capabilă de a învăța și găsi soluții în mod independent indiferent de contextul în care se află, așa cum este de exemplu inteligența oamenilor.
Acum avem doar AI-uri specifice, dedicate unui singur lucru. Avem AI-uri care fac diferența dintre un cățel și un purcel, AI-uri care bat oamenii la șah și la GO, conduc mașini, ne spun chestii relativ simple pe telefon, etc. Toate impresionante dar toate foarte departe chiar și de AGI-ul unei furnici. Din acest motiv, cu tot progresul din ultimii ani, toți specialiștii sunt de acord că suntem încă foarte departe de AGI.
Dar prin combinarea realismului extraordinar al expresiilor faciale oferite de un robot umanoid și un software adaptabil fiecărui “spectacol” în parte, Hanson Robotics vrea cu bună știință să sugereze că este foarte aproape de a obține o mașină cu AGI.
Joc de fum și oglinzi care a înfuriat întreaga comunitate din AI. Cel mai vehement și direct este Yann LeCun, șeful diviziei AI de la Facebook.
La începutul anului LeCun a postat acest tweet:
This is to AI as prestidigitation is to real magic.
Perhaps we should call this "Cargo Cult AI" or "Potemkin AI" or "Wizard-of-Oz AI".
In other words, it's complete bullsh*t (pardon my French).
Tech Insider: you are complicit in this scam. https://t.co/zhUE4V2PSR— Yann LeCun (@ylecun) January 4, 2018
mesaj care a lansat o adevărată polemică online, în parte și datorită “implicării” în discuție a Sophiei prin contul ei de twitter.
Răspunsul “Sophiei” a pus și mai mult gas pe foc, fiind evident că în spatele mesajelor este o persoană și nu Sophia.
Faptul că Sophia trimite mesaje elaborate ce nu pot fi generate încă de o mașină de tip chatbot, reprezintă un argument în plus pentru cei care spun că Hanson Robotics dă dovadă de lipsă de etică. Este evident că în mod deliberat cei din spatele Sophiei vor să creeze și să întrețină această iluzie că Sophia ar fi un robot dotat cu suficient AI încât sa poarte discuții libere online.
Profitând de scandalul “fake news” în care se află Facebook, Goertzel vrea să ducă discuția în zona eternei lupte dintre ăla-mare-și-rău și ăla-mic-și-bun, Facebook și Hanson Robotics.
Într-un interviu din Business Insider, Goertzel spune printre altele:
…Este evident că Facebook care adună datele personale ale utilizatorilor și prin algoritmi specifici “mașinilor care învață” a distribuit știri false generate de ruși și astfel a făcut lumea să-l voteze pe Donald Trump. După ce folosește “machine learning” pentru a manipula mințile oamenilor, Facebook se ia de un mic startup pentru că a făcut un robot popular.
Adică Goertzel&Compania care scrie și distribuie mesaje pe rețelele sociale și le atribuie unui robot cu intenția deliberată de a întreține iluzia că robotul este inteligent, acuză o rețea socială de răspândire de știri false și “manipularea minților oamenilor” ?!
Și te aștepți ca printr-un astfel de răspuns să te faci mai simpatic decât Facebook ?!
Dar în versiunea mai rațională a apărării lor, cei de la Hanson spun că o prezintă pe Sophia mai inteligentă decât este pentru a trezi imaginația oamenilor, pentru a îi face să înțeleagă ce ar putea să însemne AI-ul și pentru a atrage fonduri spre dezvoltarea Inteligenței Artificiale, în traducere fonduri pentru Hanson Robotics.
Foarte bine doar că toate aceste explicații nu se regăsesc deloc în materialele oficiale de prezentare a Sophiei și nici pe afișele evenimentelor la care ea participă. Nici măcar cu un asterix în subsolul paginii.
Și aici apare marea problemă de etică mai ales că vorbim de un domeniu important, cu foarte multe necunoscute chiar și pentru specialiști.
Știu că nu e ușor de priceput dar avem în fața tehnologia care va avea cel mai mare impact asupra umanității de când e omul pe pământ. Impact despre care nu știm încă în ce direcție ne va duce, cum spune românul, “nu știm dacă la bal sau la spital”.
AI-ul este o treabă foarte serioasă care generează multe întrebări, așteptări dar și îngrijorări. Oamenii sunt speriați și într-o măsură pe bună dreptate. Într-un asemenea context nu doar că nu este loc de circ și cascadorii de PR ci este esențial ca cei implicați să fie etici în munca lor și total transparenți și corecți în comunicare. Și asta nu este cerința unor idealiști care nu înțeleg cum se învârte planeta ci a unora precum, Bill Gates, Elon Musk, Stephen Hawking, etc., care printr-o scrisoare deschisă au exprimat deja acest lucru.
Promovarea proiectului Sophia printr-o strategie deliberată de a crea falsa impresie că avem în față un prim exponent al inteligenței artificale generale este mult dincolo de discutabil, este exact exercițiul toxic de comunicare ce trebuie descurajat de toți cei care înțeleg că din ADN-ul cercetării și dezvoltării Inteligenței Artificiale, etica nu este o genă opțională ci una vitală.
