La Ética vs la Inteligencia Artificial

 La Ética vs la Inteligencia Artificial

Esto es lo que sucede cuando debatimos la ética frente a la super inteligente IA. 

Artículo traducido de Singularity Hub por Camila Marín.

¿Existe un conjunto uniforme de leyes morales?, y si es así, ¿podemos enseñar inteligencia artificial a esas leyes para evitar que nos perjudique? Esta es la pregunta explorada en un cortometraje original lanzado por The Guardian.

En la película, los creadores de una IA con inteligencia general, llaman a un filósofo moral para que les ayude a establecer un conjunto de pautas morales para que la IA aprenda y siga, lo que demuestra que no es una tarea fácil.

Los dilemas morales complejos a menudo no tienen una respuesta clara, y los humanos aún no han podido traducir la ética en un conjunto de reglas inequívocas. Es cuestionable si tal conjunto de reglas puede existir, ya que los problemas éticos a menudo implican sopesar los factores entre sí y ver la situación desde diferentes ángulos.

Entonces, ¿cómo vamos a enseñar las reglas de ética a la inteligencia artificial y, al hacerlo, evitar que la IA finalmente nos haga un gran daño o incluso nos destruya? Esto puede parecer un tema de ciencia ficción, pero se ha convertido en un tema de debate general en los últimos años.

OpenAI, por ejemplo, se financió con mil millones de dólares a finales de 2015 para aprender a construir una IA segura y beneficiosa. Y a principios de este año, los expertos en IA se reunieron en Asilomar, California, para debatir las mejores prácticas para construirla.

Se ha expresado la preocupación de que la AI sea racista o sexista, lo que refleja el sesgo humano de una manera no intencionada, pero ésta solo puede aprender de los datos disponibles, los cuales son, en muchos casos, muy humanos.

Por mucho que los ingenieros en la película insistan en que la ética puede ser «resuelta» y debe haber un «conjunto definitivo de leyes morales», el filósofo argumenta que tal conjunto de leyes es imposible, porque «la ética requiere interpretación».

Hay una sensación de urgencia en la conversación, y con buenas razones: todo el tiempo, la IA está escuchando y ajustando su algoritmo. Una de las características más difíciles de comprender, pero más crucial, de la informática y la inteligencia artificial es la velocidad a la que está mejorando y la sensación de que el progreso continuará acelerándose. Como dice uno de los ingenieros de la película, «La explosión de inteligencia será más rápida de lo que podemos imaginar».

Futuristas como Ray Kurzweil predicen que esta explosión de inteligencia conducirá a la singularidad, un momento en que las computadoras, avanzando en su propia inteligencia en un ciclo acelerado de mejoras, superan con creces toda la inteligencia humana. Las preguntas, tanto en la película como entre los principales expertos en inteligencia artificial, son cómo será ese momento para la humanidad y qué podemos hacer para garantizar beneficios de superinteligencia artificial en lugar de perjudicarnos.

Los ingenieros y filósofos en la película están mortificados cuando la IA ofrece «actuar como los humanos siempre han actuado». La idea de la IA de aprender solo de los líderes religiosos de la historia se encuentra con aún más ansiedad. Si la inteligencia artificial va a ser más inteligente que nosotros, también queremos que sea moralmente mejor que nosotros. O como el filósofo en la película lo expresa de manera concisa: “No podemos confiar en la humanidad para proporcionar un modelo para la humanidad. Ni que decir.»

Si no podemos enseñar ética a una IA, terminará enseñándose a sí misma, ¿y qué pasará entonces? Simplemente puede decidir que los humanos no podemos manejar el increíble poder que le hemos otorgado, y se removerá, o tomará el control.

*Este escrito es una traducción de Vanessa Bates Ramirez, editora senior de Singularity Hub, a quien le interesan las energías renovables, la salud y la medicina, el desarrollo internacional y muchos otros temas. Cuando no está leyendo o escribiendo, generalmente puede encontrarla al aire libre, en el agua o en un avión. 

SuColSummit Blog

0 Reviews

Write a Review

Related post

Leave a Reply

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *