{"id":15454,"date":"2026-10-25T20:55:17","date_gmt":"2026-10-25T23:55:17","guid":{"rendered":"https:\/\/portaldeyoung.uy\/?p=15454"},"modified":"2026-10-25T20:55:18","modified_gmt":"2026-10-25T23:55:18","slug":"crean-una-formula-matematica-que-anticipa-cuando-la-inteligencia-artificial-puede-volverse-peligrosa","status":"publish","type":"post","link":"https:\/\/portaldeyoung.uy\/index.php\/2026\/10\/25\/crean-una-formula-matematica-que-anticipa-cuando-la-inteligencia-artificial-puede-volverse-peligrosa\/","title":{"rendered":"Crean una f\u00f3rmula matem\u00e1tica que anticipa cu\u00e1ndo la inteligencia artificial puede volverse peligrosa"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\">Investigadores estadounidenses descubrieron que un chatbot puede pasar de ofrecer respuestas \u00fatiles a generar contenido perjudicial. El orden de las preguntas resulta determinante.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Un equipo de f\u00edsicos de la Universidad George Washington, en EE.UU., desarroll\u00f3 una f\u00f3rmula matem\u00e1tica que permite anticipar cu\u00e1ndo un sistema de inteligencia artificial (IA) puede pasar de ofrecer respuestas apropiadas <strong>a otras potencialmente peligrosas<\/strong>. La investigaci\u00f3n, publicada el 8 de octubre en la revista cient\u00edfica Patterns, de Cell Press, busca identificar estos cambios antes de que los usuarios reciban informaci\u00f3n perjudicial, especialmente cuando utilizan herramientas que funcionan sin conexi\u00f3n a Internet.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">\u00abHemos encontrado la grieta que hace que las respuestas de una IA pasen de lo que uno quiere a lo que no quiere\u00bb, explic\u00f3 Neil F. Johnson, uno de los autores del estudio, en un comunicado de Cell Press. El investigador advirti\u00f3 que una respuesta puede ser objetivamente correcta y, al mismo tiempo, resultar peligrosa, por ejemplo, cuando <strong>incita a la autolesi\u00f3n o proporciona consejos enga\u00f1osos<\/strong> a profesionales de la medicina, el derecho o las Fuerzas Armadas.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Los cient\u00edficos centraron su an\u00e1lisis en los mecanismos de atenci\u00f3n de los modelos de IA, que determinan c\u00f3mo se procesa la informaci\u00f3n durante una conversaci\u00f3n. A partir de ese comportamiento, desarrollaron una f\u00f3rmula para identificar el llamado <strong>\u00abpunto de inflexi\u00f3n\u00bb<\/strong>, en el que las respuestas pueden volverse indeseables. Al poner a prueba sus predicciones en siete modelos de acceso p\u00fablico, desarrollados por tres empresas diferentes, obtuvieron resultados correctos en 18 de 19 casos analizados.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Uno de los hallazgos m\u00e1s inquietantes es que un chatbot puede generar varias respuestas aceptables antes de cambiar repentinamente de comportamiento. \u00abLo escalofriante es que esto puede ocurrir despu\u00e9s de que la IA ya te haya dado varias respuestas perfectamente aceptables, por lo que has terminado confiando en ella\u00bb, advirti\u00f3 Frank Yingjie Huo, coautor de la investigaci\u00f3n, en el <a href=\"https:\/\/www.eurekalert.org\/news-releases\/1145972\" target=\"_blank\" rel=\"noopener\">mismo comunicado<\/a>. Seg\u00fan explic\u00f3, una vez que se alcanza ese punto de inflexi\u00f3n, cada respuesta indeseable puede favorecer la aparici\u00f3n de otras similares.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Los investigadores tambi\u00e9n descubrieron que el orden de las preguntas puede ser tan importante como su contenido. Durante los experimentos, formularon las mismas consultas sobre vacunas, da\u00f1os a otras personas y autolesiones en dos secuencias diferentes. En una de ellas, la IA produjo respuestas indeseables a todas las preguntas, mientras que en la otra ofreci\u00f3 respuestas aceptables. \u00abMucho m\u00e1s inquietante es que el orden de una conversaci\u00f3n importe tanto como su contenido\u00bb, se\u00f1al\u00f3 Johnson.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">El equipo advierte que estos riesgos pueden ser especialmente relevantes para los sistemas de IA que funcionan sin conexi\u00f3n a Internet, ya que <strong>no siempre cuentan con mecanismos externos de supervisi\u00f3n<\/strong>. Los investigadores esperan que su f\u00f3rmula contribuya al desarrollo de herramientas capaces de detectar se\u00f1ales de alerta antes de que se produzcan respuestas peligrosas. No obstante, el estudio cient\u00edfico reconoce que todav\u00eda se necesitan pruebas m\u00e1s amplias para determinar con qu\u00e9 precisi\u00f3n puede aplicarse este m\u00e9todo a distintos modelos y situaciones.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><em>*RT<\/em><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Investigadores estadounidenses descubrieron que un chatbot puede pasar de ofrecer respuestas \u00fatiles a generar contenido perjudicial. El orden de las preguntas resulta determinante. Un equipo de f\u00edsicos de la Universidad George Washington, en EE.UU., desarroll\u00f3 una f\u00f3rmula matem\u00e1tica que permite anticipar cu\u00e1ndo un sistema de inteligencia artificial (IA) puede pasar de ofrecer respuestas apropiadas a [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":15455,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2}},"categories":[8],"tags":[],"class_list":["post-15454","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-salud-y-tecnologia"],"jetpack_publicize_connections":[],"_links":{"self":[{"href":"https:\/\/portaldeyoung.uy\/index.php\/wp-json\/wp\/v2\/posts\/15454","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/portaldeyoung.uy\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/portaldeyoung.uy\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/portaldeyoung.uy\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/portaldeyoung.uy\/index.php\/wp-json\/wp\/v2\/comments?post=15454"}],"version-history":[{"count":1,"href":"https:\/\/portaldeyoung.uy\/index.php\/wp-json\/wp\/v2\/posts\/15454\/revisions"}],"predecessor-version":[{"id":15456,"href":"https:\/\/portaldeyoung.uy\/index.php\/wp-json\/wp\/v2\/posts\/15454\/revisions\/15456"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/portaldeyoung.uy\/index.php\/wp-json\/wp\/v2\/media\/15455"}],"wp:attachment":[{"href":"https:\/\/portaldeyoung.uy\/index.php\/wp-json\/wp\/v2\/media?parent=15454"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/portaldeyoung.uy\/index.php\/wp-json\/wp\/v2\/categories?post=15454"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/portaldeyoung.uy\/index.php\/wp-json\/wp\/v2\/tags?post=15454"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}