Gran desafío de la IA: máquinas inteligentes y sabias

0

De acuerdo al periodista británico Miles Kington, el conocimiento es saber que un tomate es una fruta; la sabiduría es saber que hay una norma en contra de ponerlo en una ensalada de frutas.

Por lo que si nos detenemos a pensar sobre la Inteligencia Artificial, podríamos concluir que cualquier clase de IA claramente requiere poseer un gran conocimiento. Pero si vamos a desplegar a los agentes de IA ampliamente en la sociedad en general, en nuestras autopistas, en nuestros hogares de ancianos y escuelas, en nuestros negocios y gobiernos, necesitaremos máquinas para ser inteligentes y también sabias.

Un gran número de investigadores se han centrado en un problema bastante conocido, y trata de la seguridad o alineación de la inteligencia artificial. Ellos definen a la IA como máquinas que pueden cumplir o, incluso, superar el rendimiento humano en una tarea cognitiva especifica. Los autos de conducción automática y los algoritmos de reconocimiento facial de hoy caen en este tipo de IA estrecha.

No obstante, otros investigadores han dedicado su tiempo a trabajar para desarrollar la Inteligencia Artificial General (AGI). Esto se trata de máquinas que pueden superar a los seres humanos en cualquier tarea cognitiva. Sin embargo, todavía no sabemos con precisión cuándo o incluso si se logrará el AGI, pero está claro que el camino de la investigación está conduciendo a sistemas de inteligencia artificial cada vez más poderosos y autónomos que realizan cada vez más tareas en nuestras economías y sociedades.

La mayoría tal vez no ha sido capaz de procesar lo que este tipo de tecnología sería capaz de lograr. Construir máquinas que puedan realizar cualquier tarea cognitiva significa descubrir cómo construir una inteligencia artificial que no solo aprenda sobre aspectos como la biología de los tomates, sino también sobre nuestros sistemas de normas altamente variables y cambiantes sobre cosas como lo que hacemos con los tomates. Estas son disposiciones humanas, el desafío se encuentra en transmitírselo a las máquinas.

Los seres humanos viven vidas pobladas por una multitud de normas, desde cómo comemos, vestimos y hablamos sobre cómo compartimos información, nos tratamos unos a otros y buscamos nuestros objetivos.

Para que la inteligencia artificial sea verdaderamente poderosa, las máquinas deben comprender que las normas pueden variar enormemente de un grupo a otro, haciéndolas parecer innecesarias, sin embargo, puede ser crítico seguirlas en una comunidad determinada.

Lo que se quiere decir es que tomates en ensaladas de frutas pueden parecer extraños para los británicos por quienes Kington estaba escribiendo, pero están perfectamente bien si está cocinando para  coreanos  o un miembro de la vanguardia culinaria. Y aunque parezca menor, brindarle el servicio incorrecto a un invitado en particular puede causar confusión, disgusto e incluso enojo. Esa no es una receta para relaciones futuras saludables.

El tema de los tomates parece trivial, no obstante las normas se refieren a cosas no solo aparentemente menores como qué alimentos combinar, sino también cosas que las comunidades consideran tremendamente importantes: quién puede casarse con quién, cómo deben tratarse los niños, quién tiene derecho a ostentar el poder, cómo hacen las empresas y valorar sus bienes y servicios, cuándo y cómo la crítica se puede compartir públicamente.

Por lo que una IA exitosa y segura que logre nuestros objetivos dentro de los límites de las normas socialmente aceptadas requiere una comprensión no solo de cómo se comportan nuestros sistemas físicos, sino también cómo se comportan los sistemas normativos humanos. Las normas no son solo características fijas del entorno, como la biología de una planta. Son estructuras dinámicas y receptivas que realizamos y rehacemos a diario, mientras decidimos si dejar que alguien sepa o no, que “esta” es la forma en que “nosotros” hacemos las cosas aquí.

Estos sistemas normativos son los sistemas en los que confiamos para resolver el desafío de garantizar que las personas se comporten de la manera que deseamos en nuestras comunidades, lugares de trabajo y entornos sociales. Solo con la confianza de que todos los que nos rodean se comportaran de acuerdo a las normas sociales, estamos todos dispuestos a confiar, vivir e invertir el uno con el otro.

Garantizar que las IA potentes se comporten de la manera que queremos no será tan terriblemente diferente. Del mismo modo que necesitamos criar a nuestros hijos para que sean participantes competentes en nuestros sistemas de normas, necesitaremos capacitar a nuestras máquinas para que sean igualmente competentes. No es suficiente ser extremadamente conocedor de los hechos del universo; la competencia extrema también requiere sabiduría suficiente para saber que puede haber una regla aquí, en este grupo pero no en ese grupo. Y que ignorar esa regla no solo puede molestar a cierto número de personas; puede llevarlos a temer o rechazar la máquina en medio de ellos.

En última instancia, es aquí donde la inteligencia artificial tendrá que presentar su batalla más grande.

Dejar respuesta

Please enter your comment!
Please enter your name here

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.