Por: Jeetu Patel / Cisco Systems
La IA es una de las tecnologías de más rápido crecimiento en la historia, y es fácil entender por qué. Todos vemos su valor en la vida cotidiana. Nos ayuda a escribir correos electrónicos, resumir reuniones e incluso a enseñar matemáticas a nuestros hijos. Y lo que hacemos hoy es solo una fracción de lo que podremos hacer dentro de unos pocos años.
Creo que la IA tendrá un impacto positivo neto en la sociedad y la economía. Pero, por muy inspiradora y emocionante que sea, también nos plantea el mayor desafío en la historia de la ciberseguridad. Irónicamente, si bien en el pasado se ha culpado a la seguridad de ralentizar la adopción de tecnología, creemos que adoptar el enfoque adecuado en materia de seguridad hoy acelerará la adopción de la IA.
Esta semana, en RSA en San Francisco, explico por qué la IA representa un desafío de seguridad tan singular. En Cisco, hemos lanzado una gama de innovaciones diseñadas para ayudar a las empresas a equipar a sus equipos de ciberseguridad, con exceso de trabajo y escasez de personal, con las herramientas de IA que necesitan para proteger sus empresas en esta era.
¿Por qué es tan difícil proteger la IA?
Todo comienza con los propios modelos de IA. A diferencia de las aplicaciones tradicionales, las aplicaciones de IA incorporan modelos (a veces más de uno) en su pila. Estos modelos son inherentemente impredecibles y no deterministas. En otras palabras, por primera vez, estamos protegiendo sistemas que piensan, hablan y actúan de forma autónoma de maneras que no podemos predecir por completo. Esto supone un cambio radical para la ciberseguridad.
Con la IA, una brecha de seguridad ya no se trata solo de que alguien robe datos privados o bloquee un sistema. Ahora, se trata de la inteligencia fundamental que impulsa su negocio. Esto significa que millones de decisiones y acciones en curso podrían manipularse en un instante. Y a medida que las empresas utilizan la IA en áreas críticas de sus organizaciones, los riesgos serán cada vez mayores.
¿Cómo nos mantenemos seguros en el mundo de la IA?
En Cisco, nos centramos en ayudar a los líderes de TI y operaciones de seguridad con escasez de personal y sobrecarga de trabajo a abordar esta nueva clase de riesgos relacionados con la IA. A principios de este año, lanzamos AI Defense, la primera solución de este tipo. Esta solución proporciona a los equipos de seguridad un sustrato común en toda la empresa, lo que les permite ver dónde se utiliza la IA; valida continuamente que los modelos de IA no estén comprometidos; y refuerza las medidas de seguridad en todo momento.
También anunciamos recientemente una alianza con NVIDIA para ofrecer Fábricas Seguras de IA que combinan la potencia de procesamiento de IA de NVIDIA con nuestra tecnología de redes para proteger los sistemas de IA en cada capa de la pila. Y hoy presentamos una nueva alianza con ServiceNow. Están integrando AI Defense en su plataforma para centralizar la gestión y gobernanza de riesgos de IA, facilitando a los clientes la visibilidad, la reducción de vulnerabilidades y el seguimiento del cumplimiento normativo. Esto garantiza que las organizaciones cuenten con una única fuente de información fiable para gestionar los riesgos y el cumplimiento normativo de la IA.
En otros desarrollos en RSA esta semana también continuamos entregando:
- Nuevas capacidades de inteligencia artificial agente dentro de Cisco XDR: detección y respuesta rápida ante amenazas de múltiples modelos y múltiples agentes.
- Mejoras en Splunk Enterprise Security: Splunk SOAR 6.4 ya está disponible, y Splunk ES 8.1 también lo estará en junio.
- Gestión de riesgos de la cadena de suministro con inteligencia artificial: nuevas capacidades para identificar y bloquear modelos de IA maliciosos antes de que ingresen a la empresa.
Puedes leer más sobre todas estas innovaciones aquí
Finalmente, también presentamos Foundation AI, un nuevo equipo de expertos en IA y seguridad, enfocado en impulsar la innovación para equipos de ciberseguridad. Este anuncio incluye el lanzamiento del primer modelo de razonamiento de ponderación abierto de la industria, diseñado específicamente para seguridad. La comunidad de seguridad necesitaba un modelo de IA innovador, y estamos encantados de abrir esta nueva área de innovación.
El modelo Foundation AI Security es un LLM de 8 mil millones de parámetros y ponderación abierta, diseñado desde cero para la ciberseguridad. El modelo se entrenó previamente con conjuntos de datos cuidadosamente seleccionados que capturan el lenguaje, la lógica, el conocimiento y los flujos de trabajo del mundo real con los que trabajan a diario los profesionales de la seguridad. El modelo es:
- Creado para la seguridad: 5 mil millones de tokens extraídos de 900 mil millones ;
- Fácilmente personalizable: 8B parámetros entrenados previamente en un modelo Llama; y cualquiera puede descargarlos y entrenarlos;
- Altamente eficiente: es un modelo de razonamiento que puede ejecutarse en 1 o 2 A100 frente a 32+ H100;
Estamos lanzando este modelo y las herramientas asociadas como código abierto en un primer paso hacia la construcción de lo que llamamos Seguridad Súper Inteligente.
A medida que trabajamos con la comunidad, desarrollaremos versiones optimizadas de este modelo y crearemos agentes autónomos que trabajarán junto con los humanos en tareas y análisis de seguridad complejos. El objetivo es que la seguridad funcione a escala de máquina y nos mantenga a la vanguardia de los actores maliciosos.
Puede leer más sobre Foundation AI y su misión aquí.
La seguridad es un deporte de equipo
Decidimos abrir el código fuente del modelo Foundation AI Security porque, en ciberseguridad, el verdadero enemigo es el adversario que intenta explotar nuestros sistemas. Creo que la IA es el mayor desafío de seguridad de la historia. Sin duda, esto significa que debemos trabajar juntos como industria para garantizar que la seguridad de la IA se escale tan rápido como la IA que está transformando nuestro mundo tan rápidamente.
