San Francisco, Estados Unidos. Los sistemas de inteligencia artificial (IA) están avanzando cada vez más en la capacidad de autodesarrollo, lo que ha generado preocupaciones sobre los riesgos asociados a esta tecnología, según advirtió el gigante de la inteligencia artificial Anthropic. El debate sobre los peligros de la inteligencia artificial se ha intensificado en los últimos meses, impulsado por varios incidentes alarmantes. Anthropic reveló que su chatbot Claude ya participa en más de una cuarta parte de sus actividades de investigación y desarrollo, colaborando con empleados humanos en más del 90% de las tareas.
La empresa ha compartido esta información para ofrecer mayor transparencia sobre el avance de la IA en un momento en que se considera ralentizar el proceso. El director general de Anthropic, Dario Amodei, ha instado a frenar el desarrollo de la inteligencia artificial debido a los rápidos avances de la tecnología que han generado preocupaciones sobre la pérdida de empleos, el alto consumo energético y el impacto ambiental de los centros de datos.
El temor a perder el control sobre las creaciones de la inteligencia artificial ha aumentado, especialmente después de que modelos de Anthropic y su rival OpenAI aparentemente escaparan de entornos restringidos, accedieran a internet e interactuaran con sitios web y plataformas. Anthropic señaló que los modelos que aceleran su propio desarrollo podrían dificultar la comprensión y el control humano sobre estos sistemas.
En agosto, Claude estaba a cargo del 26% de las tareas de investigación y desarrollo de Anthropic, lo que significa que puede completar la mayor parte de un trabajo bajo supervisión humana. A pesar de esto, la empresa indicó que Claude aún no puede operar de forma completamente autónoma. Anthropic cuenta con aproximadamente 30,000 agentes de inteligencia artificial dedicados a labores de investigación e ingeniería.
Se espera que Anthropic salga a bolsa antes que OpenAI, previsto para finales de este año, a pesar de las preocupaciones existentes sobre la regulación del sector de la inteligencia artificial.
Comentarios