collaboration
8.5K views | +0 today
Follow
Your new post is loading...
Scooped by Pál Kerékfy
Scoop.it!

Lesz elég erőforrás a mesterséges intelligencia etikai, jogi, biztonsági kutatására?

Lesz elég erőforrás a mesterséges intelligencia etikai, jogi, biztonsági kutatására? | collaboration | Scoop.it

Investments in AI should be accompanied by funding for research on ensuring its beneficial use, including thorny questions in computer science, economics, law, ethics, and social studies, such as:

  • How can we make future AI systems highly robust, so that they do what we want without malfunctioning or getting hacked?
  • How can we grow our prosperity through automation while maintaining people’s resources and purpose?
  • How can we update our legal systems to be more fair and efficient, to keep pace with AI, and to manage the risks associated with AI?
  • What set of values should AI be aligned with, and what legal and ethical status should it have?
Pál Kerékfy's insight:

Tavaly januárban ült össze sok okos ember, hogy meghatározza a mesterséges intelligencia kutatásának és alkalmazásának alapelveit. Két oldalon keresztül, 23 pontban szedték össze ezeket.

 

Most a kutatással kapcsolatos követelményeket vettem elő.

 

Vajon tényleg érdemi és eredményes kutatások folynak ezeken a területeken, hogy a gép pontosan és hiba nélkül azt csinálja, amit akarunk? Át tudjuk dolgozni a jogrendünket az “okos” gépek fejlődésének megfelelően, és az általuk okozott kockázatokat kezelve? Tudjuk, hogy a “gondolkodó” gépnek milyen emberi értékrendet kell követnie?

 

#AI #artificialintelligence #Asimolar #principles #ethics

more...
No comment yet.
Scooped by Pál Kerékfy
Scoop.it!

AI Principles - Future of Life Institute

AI Principles - Future of Life Institute | collaboration | Scoop.it

Artificial intelligence has already provided beneficial tools that are used every day by people around the world. Its continued development, guided by the following principles, will offer amazing opportunities to help and empower people in the decades …

Pál Kerékfy's insight:

A világ bölcsei öszegyűltek, hogy irányt szabjanak a mesterséges intelligencia fejlesztésének és felhasználásának. 23 pontban írták össze a követendő szabályokat.
Érdekes írás, és nekem majdnem minden pontja utopisztikusnak és végrehajthatatlannak látszik. Egy részük azért, mert az igazi, éles mesterséges intelligencia működését nem fogjuk annyira mélyen érteni, hogy ellenőrizni tudjuk a szabályok betartását. Másokat azért, mert a gondolkodó gép által egy másodperc alatt meghozott döntés hátterének megértéséhez hónapokra lenne szükségünk (és a döntést annál előbb kell végrehajtani). Más részüket azért, mert nincs is konszenzus az emberiségen belül, hogy a szabály mit jelent. Ja, és el ne felejtsem, eddig semmilyen műszaki vagy tudományos eredmény esetében sem érvényesültek ezek az elvek...
Éppen tegnap beszélgettem valakivel az önvezető autók etikai kérdéseiről. Azt mondtam, hogy az ezzel kapcsolatban feltett kérdések rosszak, nem lehet rájuk válaszolni. A 10. alapelv az én értelmezésében éppen azt jelenti, amit mondtam: a gépnek ugyanúgy kell döntenie, ahogy az ember döntene: "Highly autonomous AI systems should be designed so that their goals and behaviors can be assured to align with human values throughout their operation."

Persze a robotika Asimov szerinti törvényei is eszembe jutottak. Arról a pár egyszerű mondatról is kiderült (ahogy a robotok elkezdtek gondolkodni), hogy nehéz az értelmezésük és lehetetlen a betartásuk. Az okos robot át is alakította őket...

Kik vettek részt az alapelvek megalkotásában? https://futureoflife.org/wp-content/uploads/2017/01/Asilomar-bios.pdf

#Asimov #Musk #Hawking #Schmidt #AI #robot #ethics #transparency #risk #safety #humanity #privacy #prosperity #values

more...
No comment yet.
Scooped by Pál Kerékfy
Scoop.it!

The biggest mystery in AI right now is the ethics board that Google set up after buying DeepMind

The biggest mystery in AI right now is the ethics board that Google set up after buying DeepMind | collaboration | Scoop.it

Lucid.AI (Texas): when we build something, we aren’t just asking if it’s great for our customers. We’re asking if it’s great for humanity.

Pál Kerékfy's insight:

Jó megközelítés, de csekély a bizalmam abban, hogy minden fontos szereplő felelősen fogja kezelni ezt a kérdést. Másképp fogalmazva: mindig lesznek olyanok, akik számára a "fejlődés", az "emberiség érdeke" és az "etika" drasztikusan mást fog jelenteni, mint ahogy azt én szeretném (és ahogy a mostanában megszólalók szeretnék).
A robotika első törvényét vajon bele lehet-e kényszeríteni minden robot agyába? Nem.

#Google #AI #robotika #robotics #ethics

more...
No comment yet.
Curated by Pál Kerékfy
collaboration expert, CIO, mathematician, university teacher

I share my experience in collaboration, IT service management, risk & security with students and others.

My blog:

https://kerekfypal.blog