Robots que dudan de sus actos se integran mejor con los humanos

Existen grandes incertidumbres sobre el futuro de la interacción entre robots y humanos, a tal grado que la ONU ha organizado una serie de conferencias para debatir sobre el asunto. Ahora, un grupo de investigadores ha encontrado el punto clave para mejorar esta convivencia: la duda.

La Universidad de California en Berkeley ha presentado los resultados de su más reciente proyecto de estudio, donde han desarrollado una simulación de interacción entre robots con sistemas de inteligencia artificial y humanos para encontrar que la duda de los autómatas sobre sus actos facilita su integración social:

meme-robot-marvin-old-new

Está claro que una de las principales herramientas que podemos usar para mitigar el riesgo potencial de un sistema de IA con mala conducta es la capacidad de apagarlo.

Pero, a medida que mejoran las capacidades de los sistemas de Inteligencia Artificial, es importante asegurarse de que estos no adopten otros objetivos que impidan que un ser humano los apaguen.

Nuestro objetivo ha sido estudiar los incentivos que un autómata tiene que permitirse para dejar que lo desactiven.

Es lo que señala el documento del proyecto como base para la aplicación de sus simulaciones, en donde se le pidió a un robot que realizara una tarea, y a un ser humano se le dio la opción de permitir que continuara o apretar el interruptor de apagado, a la par que el robot también tenía la capacidad de anular su propio interruptor y, por lo tanto, bloquear la voluntad del humano.

Aquellos robots cuyo sistema de IA determinaba que tenían mucha confianza sobre sí mismos y que realizaban un desempeño correcto de sus labores, se mantuvieron encendidos e incluso se reactivaban a sí mismos luego de que el humano los apagaba.

meme-robot-marvin-sad

Mientras que aquellos robots cuya inteligencia artificial mantenía bajos niveles de confianza sobre sus decisiones se mantuvieron apagados luego de que el humano apretara el interruptor, incluso cuando juzgaban que estaban haciendo un buen trabajo con su tarea asignada.

La investigación concluye luego de estudiar todas sus simulaciones que los robots con algún grado de incertidumbre acerca de su función de utilidad tienen mayores incentivos para aceptar o buscar supervisión humana, lo que los vuelve más confiables para el hombre.

De esto están hechas las pesadillas.

Leave a Reply

Your email address will not be published. Required fields are marked *