Las herramientas de inteligencia artificial (IA) generativas o conversacionales han atraído mucha atención, así como cierta controversia, al igual que aplicaciones como OpenAI. charlar y Google Bard generan respuestas similares a las de los humanos a consultas o avisos.
Estas aplicaciones se basan en grandes bases de datos de contenido y plantean preguntas sobre propiedad intelectual, privacidad y seguridad. En este artículo, analizamos cómo funcionan los chatbots, los riesgos para la privacidad y el cumplimiento de los datos, y dónde se encuentra el contenido generado en relación con la copia de seguridad.
Estas herramientas, más exactamente llamadas ‘IA generativa’, se basan en grandes modelos de lenguaje para generar respuestas similares a las humanas (ver cuadro). El modelo de lenguaje grande de OpenAI es el transformador preentrenado generativo (o GPT); Google Bard utiliza el modelo de lenguaje para aplicaciones de diálogo (LaMDA).
Sin embargo, ha provocado el rápido crecimiento de estos servicios Preocupación entre los profesionales de TI. Según Matthew George, fundador de VigiTrust, en un proyecto de investigación reciente, los 15 oficiales de seguridad de la información que entrevistó mencionaron La IA generativa es una preocupación.
“Las preocupaciones más serias son la fuga de direcciones IP y la confidencialidad cuando se usa IA generativa”, dice George, y agrega que la facilidad de uso de herramientas de IA basadas en web o aplicaciones corre el riesgo de crear otra forma de TI en la sombra.
Como servicios en línea, las aplicaciones de IA generativa transmiten y procesan datos a través de Internet. Los servicios principales no detallan dónde se almacenan realmente los datos.
“Cada uno de estos servicios tiene diferentes términos y condiciones, y debe leerlos con mucha atención”, dice Tony Lock de Freeform Dynamics. “¿Están usando su entrada, para que la próxima vez que inicie sesión sepan quién es usted y cómo le gusta expresar sus consultas? Probablemente estén guardando parte de esa información. Mucho depende de los sistemas, porque algunos usan datos antiguos [to answer queries] Otros salen y miran lo que pueden encontrar”.
Chatbots y privacidad de datos
Sin embargo, estos servicios tienen políticas de privacidad de datos. ChatGPT, por ejemplo, permite a los usuarios eliminar conversaciones una por una (en un plazo máximo de 30 días), eliminar todos sus datos o eliminar toda su cuenta.
El servicio supervisa las consultas para evitar el uso indebido. ChatGPT conserva los datos del usuario para mejorar sus servicios, pero los usuarios pueden optar por no participar. Mientras tanto, Google afirma que Bard recopila “conversaciones, su ubicación, comentarios e información de uso” para mejorar el servicio y mejorar los servicios de aprendizaje automático de Google. A pesar de los rumores en línea, no puede acceder a la información personal en Gmail u otras cuentas de servicios de Google.
A pesar de estas salvaguardas, los servicios de chatbot plantean una serie de desafíos para las organizaciones. Utilizan datos públicos para sus modelos, pero a diferencia del aprendizaje automático y la inteligencia artificial basados en la empresa, las empresas no tienen control ni visibilidad de los datos de entrenamiento. Tampoco existe una forma automatizada de evitar que un empleado comparta propiedad intelectual o datos de identificación personal, como registros de salud o financieros, con Bard o ChatGPT.
“Necesitas una política y reglas sobre dónde y cuándo lo usas”, dice George. Sugiere que el uso de una herramienta de inteligencia artificial generativa para crear materiales de marketing es aceptable, pero no debe usarse para documentos confidenciales y críticos, como contratos.
Además, debe decidir dónde se guardarán los datos y qué se utilizará en el formulario, dice Richard Watson-Brun, experto en seguridad de datos de PA Consulting.
“Es posible que esté utilizando contenido similar a un chat en el formulario o puede mantenerlo por separado para las grabaciones”, dice. “El chat de GPT, por ejemplo, registra los chats anteriores y, por lo general, los usa para mejorar los resultados del modelo. Sin embargo, también puede haber importantes razones de cumplimiento para hacer chats de forma temporal, incluso si no están incorporados en el modelo”.
Chatbots y cumplimiento
El uso de servicios públicos de chatbot también plantea una serie de cuestiones de cumplimiento. Si las empresas desean utilizar datos de clientes con IA generativa, deberán asegurarse de que el procesamiento de datos cumpla con el Reglamento General de Protección de Datos (GDPR). Para sistemas operados internamente, es posible obtener estas aprobaciones.
Para los chatbots públicos, esto es casi imposible, lo que llevó a los expertos a desaconsejar el intercambio de datos personales e incluso prohibiciones gubernamentales.
Esto se ha visto en Prohibición temporal de la DPA italiana por incumplimiento del Reglamento General de Protección de Datos (GDPR) (ahora levantado) y accidentes como Las brechas de seguridad de Samsung usando la herramienta ChatGPT. Los jefes de seguridad y privacidad se involucran en consideraciones y preguntas sobre el uso comercial, los riesgos y los requisitos de cumplimiento para el uso de la IA.
Otro problema de cumplimiento es si las organizaciones usan IA generativa para tomar decisiones que afectan a los clientes. Los reguladores observan de cerca las decisiones tomadas por inteligencia artificial o sistemas de aprendizaje automático, y querrán asegurarse de que esas decisiones se tomen con fundamentos razonables, sin prejuicios ni discriminación.
Para la tecnología interna, mantener registros de decisiones debe ser sencillo y las empresas también deben registrar detalles de los datos utilizados para entrenar modelos. Nada de esto es posible con chatbots genéricos. Además, es posible que un sistema de IA generativa tome diferentes decisiones basadas en consultas aparentemente similares (los modelos de lenguaje pueden interpretar diferentes palabras o frases de diferentes maneras para un analizador humano) y si los datos de entrenamiento o el modelo de lenguaje grande cambian, eso también cambiará. afectar los resultados.
Esto dificulta que las empresas expliquen y justifiquen las decisiones que toman los sistemas generativos de IA.
“Uno de los problemas es la redundancia o la ausencia de redundancia”, dice Patrick Smith, CTO Europa en Pure Storage. “Si realiza las mismas consultas en una de estas herramientas de inteligencia artificial, ¿obtendrá la misma respuesta? Sospecho que no lo haría si estuvieran actualizando constantemente sus datos de capacitación. Si observa las herramientas que puede implementar en sus propios sistemas, obviamente puede bloquear los datos de entrenamiento en cualquier momento “.
Chatbots y copias de seguridad
Esto plantea la cuestión de cómo las organizaciones deben hacer una copia de seguridad de los datos del chatbot, o si es posible. Los servicios como ChatGPT guardan consultas durante 30 días y las consultas y respuestas se pueden exportar. Una vez más, sin embargo, depende de la persona que utilice el servicio hacerlo; todavía no existen herramientas de cumplimiento y copia de seguridad automatizadas en toda la empresa para los servicios experimentales en gran medida, y no hay forma de tomar una instantánea de los datos de capacitación para cualquier una consulta (ver cuadro) .
Esto sugiere que, aunque los CIO y los directores de datos están dispuestos a experimentar con la IA generativa, la tecnología todavía tiene mucho camino por recorrer antes de que sea lo suficientemente madura para el uso empresarial general.
In conclusion, this film has captivated audiences with its mesmerizing storytelling, compelling performances, and stunning visuals. It has transported us to worlds both familiar and unknown, evoking a range of emotions that have left a lasting impact. The director’s artistic vision and the collaborative efforts of the cast and crew have brought this story to life in a truly extraordinary way. From the gripping plot twists to the heartfelt moments of connection, this film has reminded us of the power of cinema to inspire, entertain, and provoke thought.
Whether you’re a fan of the genre or simply a lover of great storytelling , this film is not to be missed. It’s a testament to the magic of filmmaking and serves as a reminder of the profound impact that movies can have on our lives. So grab your popcorn, sit back, and immerse yourself in this cinematic masterpiece.
