Accenture y Anthropic han alcanzado un acuerdo para colaborar en la creación de un equipo de evaluadores integrados que trabajará junto a los equipos internos y los socios de seguridad de Anthropic. Su objetivo será evaluar y someter los modelos de IA a diferentes pruebas para identificar posibles vulnerabilidades, realizar evaluaciones de alineamiento y comprobar la eficacia de sus salvaguardas.
Como parte de esta colaboración, tanto Accenture como Anthropic prevén invertir al menos 1.000 millones de dólares cada una durante los próximos cinco años en iniciativas relacionadas con la seguridad de la inteligencia artificial. El acuerdo busca reforzar los mecanismos de evaluación de los modelos a medida que estos adquieren un papel cada vez más relevante en empresas y organizaciones.
Faculty complementará las capacidades de Accenture
Accenture aportará a esta iniciativa sus décadas de experiencia e inversión en IA responsable, además de la capacidad técnica y de seguridad de Faculty, compañía especializada en inteligencia artificial aplicada que fue adquirida por la consultora. La experiencia de Faculty permitirá complementar las capacidades de Accenture y colaborar con Anthropic en el desarrollo de nuevas metodologías de evaluación.
Faculty cuenta con una amplia trayectoria en la evaluación y realización de pruebas sobre modelos de IA para algunos de los principales laboratorios de inteligencia artificial del mundo. La compañía también ha participado en el desarrollo de sistemas complejos diseñados desde su origen bajo criterios de seguridad y responsabilidad.
Su experiencia se extiende a sectores como la Administración pública, la defensa, la sanidad y las infraestructuras. Entre sus proyectos figura el desarrollo del Sistema de Alerta Temprana del Servicio Nacional de Salud británico (NHS) durante la pandemia de COVID-19. Esta experiencia será ahora aplicada al trabajo conjunto con Anthropic para evaluar el comportamiento y la seguridad de los modelos de IA.
“Accenture está reuniendo a un equipo especializado con una amplia experiencia en IA, seguridad y diferentes sectores para trabajar junto a Anthropic”, ha afirmado Julie Sweet, presidenta y CEO de Accenture. “La seguridad requiere tanto un profundo conocimiento técnico como una comprensión clara de cómo se utiliza la IA en el mundo real”.
Según Sweet, la evaluación integrada constituye un ámbito emergente dentro de la seguridad de la inteligencia artificial. “Esperamos colaborar con Anthropic para ayudar a acelerar el desarrollo de evaluadores integrados, que consideramos que serán una parte importante del ecosistema de seguridad en el futuro”, ha señalado.
Evaluadores integrados de ciberseguridad
Por su parte, el Dr. Marc Warner, director de Tecnología de Accenture y CEO de Faculty, ha destacado que la seguridad debe formar parte del desarrollo de los sistemas de IA desde sus primeras etapas. “Faculty, que ahora forma parte de Accenture, nació con la convicción de que la IA debe ser segura por diseño, y no segura por casualidad”, ha explicado.
Ambas compañías prevén invertir al menos 1.000 millones de dólares cada una
Warner ha señalado que este principio ha guiado el trabajo de Faculty con gobiernos y sistemas de defensa y sanidad de todo el mundo. En este contexto, considera que la colaboración con Anthropic encaja con la trayectoria de la compañía y permitirá ampliar su capacidad de actuación.
“Unir fuerzas con Anthropic como evaluadores integrados es exactamente el tipo de trabajo para el que se creó Faculty y, ahora como parte de Accenture, contamos con la plataforma necesaria para llevarlo a cabo a una escala capaz de generar un impacto real en la industria”, ha concluido.
