Muchos gobiernos del mundo están desarrollando sistemas con IA capaces de matar de manera autónoma. ¿Supondrán un peligro para la humanidad?

El ser humano confía hasta tal punto en la tecnología que ya ha desarrollado dispositivos que integran IA totalmente enfocada en matar. Sin embargo, ¿es posible que estemos cometiendo un error al darle tanto poder a una máquina? Investigadores afirman que la única manera de defenderse de una IA asesina es no desarrollarla.

La IA es mucho más peligrosa de lo que creemos

Un grupo de investigadores de ASRC Federal ha publicado un documento en el que se relatan las posibles consecuencias del uso de IA en la guerra moderna. El texto comienza advirtiendo que la IA generará una catástrofe antes de lo que pensamos; un “accidente” que no podremos predecir.

Los expertos explican que comenzaron su investigación con accidentes como los ocurridos en centrales nucleares; tales como Three Mile Island o Chernobyl. Aunque parezca extraña la relación, éstos creen que la IA conlleva riesgos similares. En el documento se afirma que encontrar y explotar debilidades para inducir un comportamiento defectuoso se convertirá en un pilar permanente de la estrategia militar del futuro.

¿Cómo defendernos de una IA asesina?

Los científicos tienen claro que la clave está en no permitir que los robots puedan asesinar a humanos con autonomía. Pese a ello, también son sinceros y creen que, en un futuro, las máquinas tendrán una mayor importancia en la toma de decisiones.

Éstos explican que los sistemas de IA son mucho más efectivos que los humanos. Por esa razón, los humanos pasarán a tomar un rol más pasivo; supervisando las acciones de la IA primero, para pasar a ser después una especie de operador que active el interruptor letal. Aquel con el que mataremos a una persona con un simple clic.


AerialX

Dichas armas autónomas y letales se expandirán mucho más rápido de lo que imaginamos. Los expertos piensan que las guerras se librarán entre máquinas autónomas; mientras que, los humanos ya no podrán involucrarse de una manera manual en actos bélicos. Los humanos se limitarán a realizar análisis posteriores, tras un parón en la guerra o después de firmar la paz.

Esta pérdida de control podría suponer un gran problema para la raza humana. Los investigadores directamente parecen argumentar que la IA será la perdición del ser humano. Al menos si no regulamos o prohibimos que la IA pueda matar.

¿Tendrán razón estos expertos o están siendo un poco exagerados? Puede que la regulación sea una buena idea; al fin y al cabo, la tecnología siempre puede utilizarse con malos fines. Da un poco de miedo que unos terroristas puedan convertir el reconocimiento facial en un sistema de objetivos para matar. Con el paso del tiempo veremos si los investigadores tienen razón o no, esperemos que se equivoquen.

omicrono.com / Alex Branco, 02 junio 2019

La única defensa contra una IA asesina es no desarrollarla