Přinášíme informace z budoucnosti

Vědci se nebudou podílet na vývoji smrtící AI

20. Červenec 2018 | | Jiří Větvička

Několik stovek vědců, kteří se specializují na umělou inteligenci, prohlásilo, že se nebudou podílet na vývoji nebo výrobě robotů, které mohou identifikovat a zaútočit na člověka bez souhlasu lidské obsluhy. Demis Hassabis ze společnosti Google DeepMind nebo Elon Musk patří mezi více než 2 400 signatářů slibu, který hodlá odradit vojenské firmy a národy od budování smrtících autonomních zbraňových systémů (LAWS).

Organizátoři z institutu Future of Life žádají vlády, aby se dohodly na normách, právních předpisech a nařízeních, které budou účinně zakazovat vývoj zabijáckých robotů. V současné době takové předpisy chybí a tak signatáři slibují, že se "nezúčastní ani nebudou podporovat vývoj, výrobu, obchod nebo používání smrtonosných autonomních zbraní." Více než 150 firem a organizací přidalo svá jména ke slibu, který byl prezentován na Mezinárodní společné konferenci o AI ve Stockholmu.

Yoshua Bengio, průkopník v oblasti umělé inteligence v Montrealském institutu pro učení algoritmů, věří, že tento slib zahanbí firmy a vojenské organizace, které vyvíjí autonomní zbraně a veřejné mínění se postaví proti nim. "Tento přístup skutečně fungoval u nášlapných min. USA sice nepodepsaly smlouvu o zákazu nášlapných min, ale mezinárodní smlouvy a veřejné mínění zastavilo americké společnosti v jejich výrobě," řekl Bengio.

Jak by takový přístup mohl fungovat můžeme vidět na společnosti Google. Její zaměstnanci v červnu tohoto roku protestovali proti poskytování technologie umělé inteligence americkému ministerstvu obrany v rámci projektu Maven. Tato technologie by umožňovala armádě nasadit drony s lepším rozpoznáváním cílů a to i lidských. V reakci na to se Google rozhodl smlouvu neprodlužovat, ale i nadále s armádou spolupracuje v dalších oblastech.

Podobný protest proti vývoji autonomních zbraňových systémů není prvním, ale tento veřejný závazek obsahuje nejvíce signatářů a některé společnosti patří mezi významné hráče v oblasti AI např. DeepMind.

Bohužel, i kdyby se všechny národy světa dohodly na zákazu smrtících autonomních zbraní, nezastavilo by to jednotlivce nebo dokonce vlády, aby nadále ve vývoji pokračovaly.

Zdroj: https://www.theguardian.com/science/2018/jul/18/thousands-of-scientists-...