collaboration
7.9K views | +0 today
Follow
Your new post is loading...
Scooped by Pál Kerékfy
Scoop.it!

Teknős vagy lőfegyver? Meg tudjuk különböztetni?

Teknős vagy lőfegyver? Meg tudjuk különböztetni? | collaboration | Scoop.it

Changing the pattern on an object can fool an image recognition system into thinking it is looking at something else entirely – raising big concerns about face ID and driverless cars.

A hacker could make a hospital look like a target to a military drone, or a person of interest look like an innocent stranger to a face-recognition security system,” says Jeff Clune at the University of Wyoming.

Pál Kerékfy's insight:

A tegnapelőtti írásomhoz kapcsolódó másik kutatás (ebben az esetben az MIT, Massachusetts Institute of Technology részéről) szintén azt bizonyítja, hogy az ember számára lényegtelen, semmi problémát nem jelentő változtatások, a gépet teljesen átverhetik. Ebben a példában teknőst vél lőfegyvernek, de a lehetőségek korlátlanok: “A hacker could make a hospital look like a target to a military drone, or a person of interest look like an innocent stranger to a face-recognition security system,” says Jeff Clune at the University of Wyoming.

 

Ha így állunk, akkor komolyan át kell gondolni, hogy milyen döntéseket bízhatunk az “okos” gépre!

 

Mit ér így a gépi arcfelismerés? Hogy fog így biztonságosan vezetni az önvezető autó?

 

#MIT @MITnews @mit #AI #artificialintelligence #classification #adversarial

more...
No comment yet.
Scooped by Pál Kerékfy
Scoop.it!

Hogy verjük át könnyen és egyszerűen a mesterséges intelligenciát?

Hogy verjük át könnyen és egyszerűen a mesterséges intelligenciát? | collaboration | Scoop.it

Minor changes to street sign graphics can fool machine learning algorithms into thinking the signs say something completely different. 

The upshot here is that slight alterations to an image that are invisible to humans can result in wildly different (and sometimes bizarre) interpretations from a machine learning algorithm.

Pál Kerékfy's insight:

Ha a gépi intelligencia gyorsabb és okosabb akar nálunk lenni, akkor nem emberi, hanem gépi tanulási és elemzési módszereket vetnek be az alkotói. Ebben az a “szép”, hogy nagyrészt ismeretlen számunkra. Nem könnyű megérteni a működését, és nem is könnyű tesztelni.

 

Az IEEE írása amerikai egyetemek (University of Washington, University of Michigan, Stony Brook University és University of California Berkeley) kutatóinak cikkére hivatkozik (https://arxiv.org/abs/1707.08945), akik kimutatták, hogy könnyen át lehet verni a képfelismerő algoritmusokat. Olyan változtatásokat végeznek a képen, amiket az emberi szem nem vesz észre (vagy lényegtelennek lát). A gép viszont valami egész mást lát ott, mint ami van, például: panda helyett gibbont vagy kötelező haladási irány helyett csúszós úttest táblát.

 

Idézet a cikkből: “The Stop sign is misclassified into our target class of Speed Limit 45 in 100% of the images taken according to our evaluation methodology. For the Right Turn sign… Our attack reports a 100% success rate for misclassification with 66.67% of the images classified as a Stop sign and 33.7% of the images classified as an Added Lane sign.”

 

Ha a támadó hozzá tud férni az algoritmushoz, nem a belsejéhez, hanem tesztelni tudja, hogy milyen képet hogyan ismer fel, akkor létre tudja hozni a megfelelő változtatást, például, ráragaszt valamit a STOP táblára, ami az embert még nem zavarja, de a gépet megbolondítja.

 

Nyilván lehet védekezni minden egyes támadás ellen, de már megint ott tartunk, mint a vírusok esetében. Előbb jön a támadás, utána kezdünk el védekezni ellene..

 

#AI #IEEE @UW @UofWa @UCBerkeley @umich @UniversityOfMichigan @stonybrooku #artificialintelligence #classification #adversarial

more...
No comment yet.
Scooped by Pál Kerékfy
Scoop.it!

Why IBM Just Bought Billions of Medical Images for Watson to Look At

Why IBM Just Bought Billions of Medical Images for Watson to Look At | collaboration | Scoop.it
IBM seeks to transform image-based diagnostics by combining its cognitive computing technology with a massive collection of medical images.
Pál Kerékfy's insight:

A Watson az orvos segítő munkatársa.

#IBM #Watson #physician #diagnosis #image

https://palkerekfy.wordpress.com/osszekapcsolt-mindenseg/

more...
No comment yet.
Curated by Pál Kerékfy
collaboration expert, CIO, mathematician, university teacher

I share my experience in collaboration, IT service management, risk & security with students and others.

My blog:

https://kerekfypal.blog