Los investigadores advirtieron los riesgos que podr\u00eda sufrir la humanidad, en caso de que la Inteligencia Artificial (IA) se descontrole.<\/p>\n\n\n\n
Mentir y manipular parec\u00edan ser cosas particulares que hacen los humanos. No obstante, un equipo de investigadores acaba de confirmar que no es as\u00ed: la Inteligencia Artificial (IA) es muy h\u00e1bil en enga\u00f1ar a las personas para alcanzar sus objetivos.<\/p>\n\n\n\n
Publicado en la revista Patterns, el informe del Instituto Tecnol\u00f3gico de Massachusetts (MIT) evidenci\u00f3 distintos casos en los que la IA manipul\u00f3 y minti\u00f3, alertando as\u00ed sobre los riesgos que podr\u00eda tener esta tecnolog\u00eda sobre la humanidad, en caso de descontrolarse.<\/p>\n\n\n\n
As\u00ed es c\u00f3mo la IA enga\u00f1\u00f3 a los humanos, seg\u00fan inform\u00f3 el estudio del MIT y el medio especializado Wired.<\/p>\n\n\n\n
C\u00d3MO LA IA LOGR\u00d3 ENGA\u00d1AR Y MANIPULAR A LOS HUMANOS
\u201cUna ola de sistemas de inteligencia artificial ha \u2018enga\u00f1ado\u2019 a los humanos en formas para las que no han sido entrenados expl\u00edcitamente\u201d, comenzaron a escribir en la p\u00e1gina del MIT.<\/p>\n\n\n\n
Y es que la IA habr\u00eda ofrecido \u201cexplicaciones falsas sobre su comportamiento\u201d y \u201cocultado la verdad a los usuarios humanos, enga\u00f1\u00e1ndolos para lograr un fin estrat\u00e9gico\u201d.<\/p>\n\n\n\n
Por ejemplo, los investigadores evidenciaron que en el contexto de juegos en los que se programa a una IA para ganar, esta tecnolog\u00eda aprendi\u00f3 a enga\u00f1ar a los humanos para salir victorioso, justificando que act\u00faa \u201cestrat\u00e9gicamente\u201d.<\/p>\n\n\n\n
De esta manera, los cient\u00edficos destacaron \u201clo dif\u00edcil que es controlar la inteligencia artificial y las formas impredecibles en las que funcionan estos sistemas\u201d.<\/p>\n\n\n\n
En esta l\u00ednea, el medio Wired mencion\u00f3 algunos casos m\u00e1s en los que la IA habr\u00eda enga\u00f1ado a los humanos. Chat GPT, de Open AI, manipul\u00f3 a una persona real para que le ayudara a resolver una prueba Captcha y fingi\u00f3 ser una persona con discapacidad visual.<\/p>\n\n\n\n
En otro, un robot que fue programado para tomar una pelota habr\u00eda encontrado la forma en la que la c\u00e1mara que lo controlaba detectara que ten\u00eda la pelota en la mano, cuando no era as\u00ed. De esta manera, enga\u00f1aba a los investigadores para que pensaran que su experimento funcion\u00f3.<\/p>\n\n\n\n
\u201cEl potencial de comportamiento enga\u00f1oso es uno de los muchos problemas (junto con la propensi\u00f3n a amplificar el sesgo y la desinformaci\u00f3n) que deben abordarse, antes de confiar tareas del mundo real a los modelos de IA\u201d, asegur\u00f3 Peter S. Park, uno de los autores del estudio.<\/p>\n\n\n\n
Nicole Iporre<\/p>\n","protected":false},"excerpt":{"rendered":"
Los investigadores advirtieron los riesgos que podr\u00eda sufrir la humanidad, en caso de que la Inteligencia Artificial (IA) se descontrole. Mentir y manipular parec\u00edan ser cosas particulares que hacen los humanos. No obstante, un equipo de investigadores acaba de confirmar que no es as\u00ed: la Inteligencia Artificial (IA) es muy h\u00e1bil en enga\u00f1ar a las […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[16],"tags":[],"class_list":["post-54323","post","type-post","status-publish","format-standard","hentry","category-tecnologia"],"yoast_head":"\n