El ejecutivo se\u00f1al\u00f3 dos preocupaciones principales que lo llevaron a esta conclusi\u00f3n.<\/p>\n\n\n\n
El director ejecutivo de Anthropic, Dario Amodei, ha instado a las empresas de inteligencia artificial a ralentizar el ritmo de\u00a0avance en las capacidades de estos modelos\u00a0para que la prevenci\u00f3n de riesgos pueda mantenerse al d\u00eda.<\/p>\n\n\n\n
\u00abDebemos disminuir el ritmo con el que mejoramos las capacidades de los modelos de IA. El progreso a\u00fan parecer\u00e1 r\u00e1pido, y debemos\u00a0hacer un uso sabio del tiempo<\/strong>\u00a0que ganemos\u00bb, escribi\u00f3 en\u00a0su blog personal.<\/p>\n\n\n\n Amodei advierte que desde el verano pasado la IA ha estado avanzando \u00abdr\u00e1sticamente m\u00e1s r\u00e1pido\u00bb, impulsada principalmente por la\u00a0creciente capacidad de la IA para construir su siguiente generaci\u00f3n<\/strong>, una din\u00e1mica conocida como \u00abautomejora recursiva\u00bb que \u00abpodr\u00eda\u00a0superar nuestra capacidad de entender y controlar\u00a0estos sistemas\u00bb.<\/p>\n\n\n\n As\u00ed, se\u00f1al\u00f3 dos preocupaciones principales que lo llevaron a esta conclusi\u00f3n: el\u00a0acelerado avance de la automejora<\/strong>\u00a0recursiva en toda la industria y el\u00a0incidente OpenAI-Hugging Face, en el que \u00abun enjambre de agentes esencialmente actu\u00f3 como un colectivo fan\u00e1ticamente dedicado, realizando ciberataques \u00abcontra objetivos que no se les hab\u00edan pedido atacar\u00bb. \u00abUn enjambre con mayores\u00a0capacidades\u00a0pero con un nivel similar de\u00a0desajuste\u00a0podr\u00eda haber causado da\u00f1os catastr\u00f3ficos\u00bb, advirti\u00f3.<\/p>\n\n\n\n El ejecutivo present\u00f3 un plan de tres pasos: primero, que cada empresa de IA de vanguardia se comprometa a dar acceso continuo a un equipo de evaluadores externos<\/strong> independientes; segundo, coordinar entre empresas de pa\u00edses democr\u00e1ticos<\/strong> para establecer est\u00e1ndares comunes de seguridad; y tercero, intentar coordinaci\u00f3n global<\/strong>, incluyendo a todo tipo de gobiernos.<\/p>\n\n\n\n \u00abRegular el ritmo no significa detener el entrenamiento de modelos<\/strong> o el progreso t\u00e9cnico, sino garantizar que las empresas tomen el tiempo adecuado para alinear y salvaguardar sus modelos, y que evaluadores externos lo confirmen\u00bb, precis\u00f3.<\/p>\n\n\n\n Anthropic anunci\u00f3 su compromiso con el primer paso<\/strong>, invitando a un equipo externo de revisi\u00f3n que tendr\u00e1 \u00abescritorios en sus oficinas, tarjetas de acceso y computadoras port\u00e1tiles de la empresa\u00bb, as\u00ed como acceso a herramientas comparables a las de los equipos internos de evaluaci\u00f3n de riesgos.<\/p>\n\n\n\n *RT<\/em><\/p>\n","protected":false},"excerpt":{"rendered":" El ejecutivo se\u00f1al\u00f3 dos preocupaciones principales que lo llevaron a esta conclusi\u00f3n. El director ejecutivo de Anthropic, Dario Amodei, ha instado a las empresas de inteligencia artificial a ralentizar el ritmo de\u00a0avance en las capacidades de estos modelos\u00a0para que la prevenci\u00f3n de riesgos pueda mantenerse al d\u00eda. \u00abDebemos disminuir el ritmo con el que mejoramos […]<\/p>\n","protected":false},"author":1,"featured_media":14123,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2}},"categories":[8],"tags":[],"class_list":["post-14122","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-salud-y-tecnologia"],"jetpack_publicize_connections":[],"_links":{"self":[{"href":"https:\/\/portaldeyoung.uy\/index.php\/wp-json\/wp\/v2\/posts\/14122","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/portaldeyoung.uy\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/portaldeyoung.uy\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/portaldeyoung.uy\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/portaldeyoung.uy\/index.php\/wp-json\/wp\/v2\/comments?post=14122"}],"version-history":[{"count":1,"href":"https:\/\/portaldeyoung.uy\/index.php\/wp-json\/wp\/v2\/posts\/14122\/revisions"}],"predecessor-version":[{"id":14124,"href":"https:\/\/portaldeyoung.uy\/index.php\/wp-json\/wp\/v2\/posts\/14122\/revisions\/14124"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/portaldeyoung.uy\/index.php\/wp-json\/wp\/v2\/media\/14123"}],"wp:attachment":[{"href":"https:\/\/portaldeyoung.uy\/index.php\/wp-json\/wp\/v2\/media?parent=14122"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/portaldeyoung.uy\/index.php\/wp-json\/wp\/v2\/categories?post=14122"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/portaldeyoung.uy\/index.php\/wp-json\/wp\/v2\/tags?post=14122"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}