Get Started for FREE
Sign up with Facebook Sign up with X
I don't have a Facebook or a X account
 Your new post is loading...
Your new post is loading...
Scoop.it!
Revelations that researchers at Facebook had to switch off two bots that went rogue have raised questions about the safety of artificial intelligence. 
No comment yet.
Sign up to comment
|
Scoop.it!
Hackers can turn home assistants into killer robots, researchers warn. If Elon Musk is scared of a murderous robot uprising, maybe everyone else should at least ponder our possible mechanized apocalypse. To get everyone in the spirit, researchers from cybersecurity consultancy IOActive have hacked a home assistance robot to turn it from a friendly Jarvis into a psychopathic Chucky.
Pál Kerékfy's insight:
Amit ebben a videóban látunk, csak “játék” - semmi köze ahhoz a robotháborúhoz, amit Elon Musk és több más nagyvállalati vezető tragikus lehetőségként vizionál.
Több lyuk is van a helyes kis robot szoftverében, pl.: nem ellenőrzi a letöltött szoftvert, titkosítás nélkül tárol jelszót (QR kódban).
A fejlesztő válasza: “UBTECH encourages its developer community to code responsibly and discourages inappropriate robot behavior.” (Vagyis: ne írjunk ilyen programot!)
#robot #hack #Forbes @Forbes @OfficialElonMusk @IOActive @ubtechroboticscorp
|
A Facebook kutatóit aggasztotta, hogy az egymással beszélgető robotok új nyelvet fejlesztettek ki, amit a kutatók nem értettek. Ebben a példában megint az látszik, ami már az AlphaGo (https://palkerekfy.wordpress.com/2016/03/31/intelligens-felelem/ ) esetében is megjelent: hamar eljut a mesterséges intelligencia arra a szintre, hogy nem is értjük, mit csinál. Ha nem értjük, szabályozni és ellenőrizni sem tudjuk. Ezeket a robotokat ki lehetett kapcsolni. Egy következő majd nem hagyja magát kikapcsolni, vagy kialkudja az embernél, hogy ne kapcsolja ki. (Ahogy tegnap írtam, ebben is kezdenek nagyon jók lenni.)
Musk és Zuckerberg között éles vita alakult ki. Musk óvatosságot és ellenőrzést javasol a mesterséges intelligencia fejlesztése és használata területén. Zuckerberg felelőtlennek nevezi az ilyen embereket. Musk szerint – viszont – Zuckerberg nem érti ezt az egészet.
#Zuckerberg #Musk #Facebook #robot #AI #safety