Explosión en uso inteligencia artificial generativa Las herramientas basadas en modelos de lenguaje extenso (LLM) conducirán casi inevitablemente a muchos incidentes importantes de violación de datos internos en los próximos 12 meses, investigadores de amenazas de aplicaciones, API y profesionales de seguridad de datos impeva Ellos profetizan.
A medida que los chatbots con tecnología LLM (ChatGPT es el más extendido y conocido) se vuelven más poderosos, muchas organizaciones han tomado medidas enérgicas sobre qué datos se pueden compartir con ellos, un problema explorado recientemente por Computer Weekly.
Sin embargo, según el vicepresidente sénior de seguridad de datos y director de tecnología de campo de Imperva, Terry Ray, la “gran mayoría” de las organizaciones aún carece de una estrategia interna de riesgo y, por lo tanto, se muestran deliberadamente reacias a utilizar datos generativos. Inteligencia artificial por parte de usuarios que desean un poco de ayuda con tareas como escribir código o completar formularios.
“La gente no necesita intenciones maliciosas para causar una violación de datos”, dijo Ray. “La mayoría de las veces, solo están tratando de ser más eficientes en su trabajo. Pero si las empresas están ciegas al acceso LLM a su código back-end o a los almacenes de datos confidenciales, es solo cuestión de tiempo antes de que explote en su caras.”
Se cree que las amenazas internas son la causa raíz de casi el 60 % de las filtraciones de datos, según los propios datos de Imperva, pero muchas aún no están correctamente clasificadas por las organizaciones, ya que un número significativo son simplemente casos de error humano, según un estudio reciente de la empresa. que el 33 % de las organizaciones no ven a los internos como una amenaza significativa.
Tratar de restringir el uso de IA dentro de la organización ahora, dijo Ray, ha sido en gran medida un caso de cerrar la puerta estática después de que el caballo se haya escapado.
“Evitar que los empleados usen IA generativa es inútil”, dijo Ray. “Hemos visto esto con muchas otras tecnologías: las personas inevitablemente pueden sortear estas limitaciones, por lo que las prohibiciones solo crean un juego interminable de golpes para los equipos de seguridad, sin mantener a la organización significativamente más segura”.
“La gente no necesita intenciones maliciosas para provocar una filtración de datos. La mayoría de las veces, solo intentan ser más eficientes. Pero si las empresas ignoran el acceso de LLM a su código back-end o a los almacenes de datos confidenciales, es solo es cuestión de tiempo antes de que les explote en la cara”.
Terry Ray, Impreva
Sugirió que, en lugar de prohibir o confiar en que el personal autocensure el uso de herramientas como ChatGPT, los equipos de seguridad deberían enfocarse en los datos, en lugar del chatbot, y asegurarse de que saben las respuestas a preguntas como: ¿Quién accede a qué? ? ¿Qué están tramando? ¿Cómo se accede? ¿Dónde están ubicados?
Hay tres pasos inmediatos a los que las organizaciones pueden dirigir su presupuesto de seguridad ahora que pueden contribuir en gran medida a mitigar el riesgo y ayudar a garantizar que una empresa no sea víctima de una brecha interna de alto nivel causada por la IA.
En primer lugar, es importante que las organizaciones tomen medidas para descubrir y mantener cada almacén de datos en su entorno, lo que ayudará a garantizar que los datos críticos almacenados en las bases de datos ocultas no se pasen por alto ni se exploten, ya sea accidentalmente oa propósito.
En segundo lugar, todos estos activos de datos deben inventariarse y categorizarse según el tipo de negocio, la sensibilidad y el valor. De esta manera, la organización puede comprender mejor el valor de sus datos, ya sea que estén o no en riesgo de verse comprometidos, y qué controles adicionales de seguridad cibernética pueden implementarse razonablemente para mitigar el riesgo al que están expuestos.
Finalmente, las organizaciones deben considerar gastar en mejorar las herramientas de análisis y monitoreo de datos para detectar problemas como el comportamiento anómalo de los empleados, la migración o fuga de datos, instancias repentinas de aumento de privilegios o creación de cuentas nuevas sospechosas, todos presagios de un incidente grave.
In conclusion, this film has captivated audiences with its mesmerizing storytelling, compelling performances, and stunning visuals. It has transported us to worlds both familiar and unknown, evoking a range of emotions that have left a lasting impact. The director’s artistic vision and the collaborative efforts of the cast and crew have brought this story to life in a truly extraordinary way. From the gripping plot twists to the heartfelt moments of connection, this film has reminded us of the power of cinema to inspire, entertain, and provoke thought.
Whether you’re a fan of the genre or simply a lover of great storytelling , this film is not to be missed. It’s a testament to the magic of filmmaking and serves as a reminder of the profound impact that movies can have on our lives. So grab your popcorn, sit back, and immerse yourself in this cinematic masterpiece.
