Veštačka inteligencija ne sme da radi ove 3 stvari. A već je počela. Fizičar i istraživač veštačke inteligencije Max Tegmark upozorava na opasnosti razvoja tehnologije.
Tegmark ističe tri stvari koje su posebno problematične.
“Prva je da naučimo AI da sam piše kod jer je to prvi korak prema ponavljajućem samousavršavanju koje veštačkoj opštoj inteligenciji može omogućiti da dođe do mnogo viših nivoa. Ups, mi smo to već omogućili. Druga vrlo rizična stvar je da AI povežemo sa internetom tako da može da ide na web stranice, samostalno skida stvari i razgovara sa ljudima. Ups, i to smo mu već omogućili… Treća stvar je ono na što je upozorio Stuart Russel, fascinantan istraživač AI-a. On već neko vreme ističe da nikada ne bi trebalo da naučimo AI ništa o ljudima. Pre svega ne smemo da bu omogućimo da nauči ljudsku psihologiju i kako manipulisati ljudima. To je najopasnije znanje koje mu možete dati”, navodi fizičar.
A upravo to već radimo, ističe poznati naučnik.
“Možete da ga naučite kako da leči rak i slične stvari, međutim, ne smete mu dati da čita knjigu Daniela Kahnemana o kognitivnim pristranostima i sličnim stvarima. Ups, LOL, razvili smo društvene mreže sa AI algoritmima koji nešto preporučuju i zapravo rade upravo to. Oni su postali jako dobri u znanju o tome kako treba da pritiskaju naše tastere da počinjemo da stvaramo svet u kome imamo sve više mržnje. Naime, stručnjaci su otkrili, ne iz zlih namera, već da bi zaradili više na oglašavanju, da takvi algoritmi donose više novca od oglašavanja jer više angažuju ljude”, kaže Tegmark.
