collaboration
8.5K views | +6 today
Follow
Your new post is loading...
Scooped by Pál Kerékfy
Scoop.it!

Why Facebook’s AI termination raises safety concerns

Why Facebook’s AI termination raises safety concerns | collaboration | Scoop.it
Revelations that researchers at Facebook had to switch off two bots that went rogue have raised questions about the safety of artificial intelligence.
Pál Kerékfy's insight:

A Facebook kutatóit aggasztotta, hogy az egymással beszélgető robotok új nyelvet fejlesztettek ki, amit a kutatók nem értettek. Ebben a példában megint az látszik, ami már az AlphaGo (https://palkerekfy.wordpress.com/2016/03/31/intelligens-felelem/ ) esetében is megjelent: hamar eljut a mesterséges intelligencia arra a szintre, hogy nem is értjük, mit csinál. Ha nem értjük, szabályozni és ellenőrizni sem tudjuk. Ezeket a robotokat ki lehetett kapcsolni. Egy következő majd nem hagyja magát kikapcsolni, vagy kialkudja az embernél, hogy ne kapcsolja ki. (Ahogy tegnap írtam, ebben is kezdenek nagyon jók lenni.)

Musk és Zuckerberg között éles vita alakult ki. Musk óvatosságot és ellenőrzést javasol a mesterséges intelligencia fejlesztése és használata területén. Zuckerberg felelőtlennek nevezi az ilyen embereket. Musk szerint – viszont – Zuckerberg nem érti ezt az egészet.

#Zuckerberg #Musk #Facebook #robot #AI #safety

more...
No comment yet.
Scooped by Pál Kerékfy
Scoop.it!

China is Using Drones Equipped With Flamethrowers for an Unexpected Purpose

China is Using Drones Equipped With Flamethrowers for an Unexpected Purpose | collaboration | Scoop.it

While this seems dangerous, the use of drones seems to actually be safer than the previous protocol.

Pál Kerékfy's insight:

Tűzokádó repülő sárkány? Hol találunk ma ilyet? Természetesen Kínában!

Tetszik az ötlet - de a biztonságra nem árt odafigyelni, és jó lenne, ha nem venné át valaki más az irányítását!

http://www.mirror.co.uk/news/world-news/incredible-flying-flamethrower-drones-burn-9847548

#drone #China #electric #power

more...
No comment yet.
Scooped by Pál Kerékfy
Scoop.it!

Hitachi Unveils New Video Analytics Software To Deliver Operational Intelligence and Security Insights for Smart Cities and Digital Enterprises

Hitachi Unveils New Video Analytics Software To Deliver Operational Intelligence and Security Insights for Smart Cities and Digital Enterprises | collaboration | Scoop.it

Hitachi Video Analytics (HVA) combines computer vision and advanced analytics to extract rich insights and generate real-time alerts that can provide cities, airports, campuses, transportation agencies, and businesses with operational and business intelligence, smarter management of transportation, traffic and parking, and public safety and security.

Pál Kerékfy's insight:

Sok mindenre lehet okosan használni a videót valós időben értelmező rendszert, akár az utcák, repterek vagy üzletek forgalmának optimalizálására, vagy fenyegető helyzetek korai felismerésére. Itt is átveszi az ember munkáját a mesterséges intelligencia?

https://www.hitachiinsightgroup.com/en-us/smart-cities.html#video-security-and-monitoring

#AI #video #Hitachi #smart #safety #privacy #HVA

more...
No comment yet.
Scooped by Pál Kerékfy
Scoop.it!

AI Principles - Future of Life Institute

AI Principles - Future of Life Institute | collaboration | Scoop.it

Artificial intelligence has already provided beneficial tools that are used every day by people around the world. Its continued development, guided by the following principles, will offer amazing opportunities to help and empower people in the decades …

Pál Kerékfy's insight:

A világ bölcsei öszegyűltek, hogy irányt szabjanak a mesterséges intelligencia fejlesztésének és felhasználásának. 23 pontban írták össze a követendő szabályokat.
Érdekes írás, és nekem majdnem minden pontja utopisztikusnak és végrehajthatatlannak látszik. Egy részük azért, mert az igazi, éles mesterséges intelligencia működését nem fogjuk annyira mélyen érteni, hogy ellenőrizni tudjuk a szabályok betartását. Másokat azért, mert a gondolkodó gép által egy másodperc alatt meghozott döntés hátterének megértéséhez hónapokra lenne szükségünk (és a döntést annál előbb kell végrehajtani). Más részüket azért, mert nincs is konszenzus az emberiségen belül, hogy a szabály mit jelent. Ja, és el ne felejtsem, eddig semmilyen műszaki vagy tudományos eredmény esetében sem érvényesültek ezek az elvek...
Éppen tegnap beszélgettem valakivel az önvezető autók etikai kérdéseiről. Azt mondtam, hogy az ezzel kapcsolatban feltett kérdések rosszak, nem lehet rájuk válaszolni. A 10. alapelv az én értelmezésében éppen azt jelenti, amit mondtam: a gépnek ugyanúgy kell döntenie, ahogy az ember döntene: "Highly autonomous AI systems should be designed so that their goals and behaviors can be assured to align with human values throughout their operation."

Persze a robotika Asimov szerinti törvényei is eszembe jutottak. Arról a pár egyszerű mondatról is kiderült (ahogy a robotok elkezdtek gondolkodni), hogy nehéz az értelmezésük és lehetetlen a betartásuk. Az okos robot át is alakította őket...

Kik vettek részt az alapelvek megalkotásában? https://futureoflife.org/wp-content/uploads/2017/01/Asilomar-bios.pdf

#Asimov #Musk #Hawking #Schmidt #AI #robot #ethics #transparency #risk #safety #humanity #privacy #prosperity #values

more...
No comment yet.
Curated by Pál Kerékfy
collaboration expert, CIO, mathematician, university teacher

I share my experience in collaboration, IT service management, risk & security with students and others.

My blog:

https://kerekfypal.blog