collaboration

A világ bölcsei öszegyűltek, hogy irányt szabjanak a mesterséges intelligencia fejlesztésének és felhasználásának. 23 pontban írták össze a követendő szabályokat.
Érdekes írás, és nekem majdnem minden pontja utopisztikusnak és végrehajthatatlannak látszik. Egy részük azért, mert az igazi, éles mesterséges intelligencia működését nem fogjuk annyira mélyen érteni, hogy ellenőrizni tudjuk a szabályok betartását. Másokat azért, mert a gondolkodó gép által egy másodperc alatt meghozott döntés hátterének megértéséhez hónapokra lenne szükségünk (és a döntést annál előbb kell végrehajtani). Más részüket azért, mert nincs is konszenzus az emberiségen belül, hogy a szabály mit jelent. Ja, és el ne felejtsem, eddig semmilyen műszaki vagy tudományos eredmény esetében sem érvényesültek ezek az elvek...
Éppen tegnap beszélgettem valakivel az önvezető autók etikai kérdéseiről. Azt mondtam, hogy az ezzel kapcsolatban feltett kérdések rosszak, nem lehet rájuk válaszolni. A 10. alapelv az én értelmezésében éppen azt jelenti, amit mondtam: a gépnek ugyanúgy kell döntenie, ahogy az ember döntene: "Highly autonomous AI systems should be designed so that their goals and behaviors can be assured to align with human values throughout their operation."

Persze a robotika Asimov szerinti törvényei is eszembe jutottak. Arról a pár egyszerű mondatról is kiderült (ahogy a robotok elkezdtek gondolkodni), hogy nehéz az értelmezésük és lehetetlen a betartásuk. Az okos robot át is alakította őket...

Kik vettek részt az alapelvek megalkotásában? https://futureoflife.org/wp-content/uploads/2017/01/Asilomar-bios.pdf

#Asimov #Musk #Hawking #Schmidt #AI #robot #ethics #transparency #risk #safety #humanity #privacy #prosperity #values

Jó megközelítés, de csekély a bizalmam abban, hogy minden fontos szereplő felelősen fogja kezelni ezt a kérdést. Másképp fogalmazva: mindig lesznek olyanok, akik számára a "fejlődés", az "emberiség érdeke" és az "etika" drasztikusan mást fog jelenteni, mint ahogy azt én szeretném (és ahogy a mostanában megszólalók szeretnék).
A robotika első törvényét vajon bele lehet-e kényszeríteni minden robot agyába? Nem.

#Google #AI #robotika #robotics #ethics