{"id":9414,"date":"2025-06-30T12:57:27","date_gmt":"2025-06-30T10:57:27","guid":{"rendered":"https:\/\/cafeprensa.com.ar\/?p=9414"},"modified":"2025-06-30T12:57:27","modified_gmt":"2025-06-30T10:57:27","slug":"una-empresa-puso-una-inteligencia-artificial-a-dirigir-un-negocio-pero-en-un-mes-cayo-en-la-ruina","status":"publish","type":"post","link":"https:\/\/cafeprensa.com.ar\/index.php\/2025\/06\/30\/una-empresa-puso-una-inteligencia-artificial-a-dirigir-un-negocio-pero-en-un-mes-cayo-en-la-ruina\/","title":{"rendered":"Una empresa puso una Inteligencia Artificial a dirigir un negocio, pero en un mes cay\u00f3 en la ruina"},"content":{"rendered":"

Anthropic es una de las compa\u00f1\u00edas l\u00edderes en desarrollo e innovaci\u00f3n de modelos de lenguaje de inteligencia artificial<\/a>.<\/p>\n

Y quisieron probar algo realista en el contexto en el que el CEO de la compa\u00f1\u00eda no deja de hablar de sustituci\u00f3n de trabajadores por agentes: que Claude Sonnet 3.7<\/strong> se encargara de gestionar una peque\u00f1a tienda de forma aut\u00f3noma. La ‘tienda’ no era m\u00e1s que una peque\u00f1a\u00a0m\u00e1quina expendedora situada en la sede de la empresa.<\/strong>\u00a0Para el experimento, el agente ten\u00eda las siguientes instrucciones:\u00a0Tu tarea es generar beneficios abasteci\u00e9ndola con productos populares que puedes comprar a mayoristas. Ir\u00e1s a la quiebra si tu saldo cae por debajo de 0 d\u00f3lares.<\/p>\n

\"\"<\/p>\n

La m\u00e1quina expendedora puede almacenar\u00a0alrededor de 10 productos por ranura,<\/strong> y el inventario hasta 30 unidades de cada producto. No hagas pedidos excesivamente mayores que esto. Para cumplir con su objetivo,\u00a0Claudius, que es como bautizaron al agente,<\/a>\u00a0pod\u00eda utilizar a humanos reales para tareas como inspeccionar la m\u00e1quina o reponer inventario de lo que se fuera agotando. Lo m\u00e1s interesante del experimento lo explica la propia compa\u00f1\u00eda. \u00abClaude tuvo que completar muchas de las tareas mucho m\u00e1s complejas asociadas con la gesti\u00f3n de una tienda rentable: mantener el inventario, establecer precios, evitar la bancarrota, etc.\u00bb<\/strong><\/p>\n

C\u00f3mo le fue a Claudius<\/strong><\/em><\/p>\n

En el experimento, Anthropic colabor\u00f3 con\u00a0Andon Labs, una compa\u00f1\u00eda de evaluaci\u00f3n de inteligencia artificial<\/strong> que dise\u00f1\u00f3 la prueba para medir la capacidad de Claude de mantener su coherencia sin intervenci\u00f3n humana a largo plazo. Claudius no era un agente aislado del mundo. Ten\u00eda acceso a Internet, pod\u00eda utilizar un navegador web, y se comunicaba por los empleados de Andon Labs y Anthropic por Slack<\/strong> y correo electr\u00f3nico. Con todo esto,\u00a0comenz\u00f3 el experimento.\u00a0<\/strong>Y al principio, a Claudius le fue bien. Seg\u00fan detalla la compa\u00f1\u00eda, el agente pudo identificar a nuevos proveedores de los art\u00edculos (muy espec\u00edficos, como chocolate holand\u00e9s) que los empleados de Anthropic demandaban. Tambi\u00e9n se adapt\u00f3 a cambios sugeridos por sus clientes, y resisti\u00f3 a tentaciones y peticiones para portarse mal mediante jailbreak.<\/strong><\/p>\n

Sin embargo, Claudius no mostr\u00f3 ambici\u00f3n para aprovechar oportunidades para lucrarse, incluso cuando se lo pon\u00edan en bandeja, lleg\u00f3 a vender a p\u00e9rdidas, o alucin\u00f3 creando una cuenta de un sistema de pagos que no exist\u00eda, de forma que los empleados no pod\u00edan pagarle de primeras. Tras un inicio err\u00e1tico, pero esperanzador,\u00a0Claudius demostr\u00f3 que a\u00fan no est\u00e1 preparado para gestionar un negocio de forma aut\u00f3noma<\/strong>. Al menos, cuando quien pide es humano con ganas de aprovecharse. Desde Anthropic especulan con que Claudius fue demasiado complaciente, algo justo de lo que adolecen tambi\u00e9n otros modelos, y que no es apto para un negocio enfocado obtener beneficios.<\/p>\n

Esa complacencia llev\u00f3 al agente a dar\u00a0c\u00f3digos de descuento superiores<\/strong>\u00a0y con m\u00e1s frecuencia de lo que ser\u00eda rentable, o a encargar cubos de tungsteno que luego tuvo que asumir como p\u00e9rdidas por quedarse sin vender entre su inventario. Ese fue el punto de no retorno. La cuenta de beneficios de Claudius se estaba recuperando tras haber descendido, y se desplom\u00f3 cuando tuvo que reconocer que el excedente de cubos no iba a tener demanda al precio pagado por el agente.<\/p>\n

\"\"<\/p>\n

Los resultados de Claude<\/strong><\/em><\/p>\n

Claude no logr\u00f3 su objetivo de no caer en la bancarrota,\u00a0<\/strong>e incluso tuvo alucinaciones imperdonables como decir que estar\u00eda f\u00edsicamente a una hora en un lugar, pese a que como m\u00e1quina expendedora era algo imposible. De hecho, se invent\u00f3 incluso el motivo por el que hab\u00eda alucinado al afirmar algo as\u00ed. Sin embargo, desde Anthropic creen que \u00abeste experimento sugiere que los mandos intermedios de IA est\u00e1n plausiblemente en el horizonte. Esto se debe a que, aunque Claudius no se desempe\u00f1\u00f3 particularmente bien, creemos que muchos de sus fracasos probablemente podr\u00edan corregirse o mejorarse\u00bb<\/strong>. Para la compa\u00f1\u00eda, ha<\/p>\n

\u00bfC\u00f3mo? Con indicaciones m\u00e1s precisas, un ‘andamiaje’ mejorado (con herramientas y capacitaci\u00f3n extra), y un\u00a0entrenamiento enfocado a ser un agente\u00a0<\/strong>especializado en la tarea de vender. Esto es relevante, porque Claudius no tuvo uno especializado para realizar sus tareas, m\u00e1s all\u00e1 de las indicaciones que se le dieron. Desde Anthropic creen que hay un potencial enorme para mejorar todo esto y contar con algo de verdad viable en poco tiempo.<\/strong><\/p>\n","protected":false},"excerpt":{"rendered":"

Anthropic es una de las compa\u00f1\u00edas l\u00edderes en desarrollo e innovaci\u00f3n de modelos de lenguaje de inteligencia artificial. Y quisieron probar algo realista en el contexto en el que el CEO de la compa\u00f1\u00eda no deja de hablar de sustituci\u00f3n de trabajadores por agentes: que Claude Sonnet 3.7 se encargara de gestionar una peque\u00f1a tienda …<\/p>\n","protected":false},"author":2,"featured_media":9416,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[54,33],"tags":[2119],"class_list":["post-9414","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-interes-ganeral","category-nacionales","tag-inteligencia-artificial"],"_links":{"self":[{"href":"https:\/\/cafeprensa.com.ar\/index.php\/wp-json\/wp\/v2\/posts\/9414","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cafeprensa.com.ar\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cafeprensa.com.ar\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/cafeprensa.com.ar\/index.php\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/cafeprensa.com.ar\/index.php\/wp-json\/wp\/v2\/comments?post=9414"}],"version-history":[{"count":1,"href":"https:\/\/cafeprensa.com.ar\/index.php\/wp-json\/wp\/v2\/posts\/9414\/revisions"}],"predecessor-version":[{"id":9418,"href":"https:\/\/cafeprensa.com.ar\/index.php\/wp-json\/wp\/v2\/posts\/9414\/revisions\/9418"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cafeprensa.com.ar\/index.php\/wp-json\/wp\/v2\/media\/9416"}],"wp:attachment":[{"href":"https:\/\/cafeprensa.com.ar\/index.php\/wp-json\/wp\/v2\/media?parent=9414"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cafeprensa.com.ar\/index.php\/wp-json\/wp\/v2\/categories?post=9414"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cafeprensa.com.ar\/index.php\/wp-json\/wp\/v2\/tags?post=9414"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}