¿IA generativa? ¡Claro que sí!

Fueron malas noticias para la dirección del grupo de productos electrónicos Samsung. En la primavera del 2023, de repente aparecieron en Internet notas de reuniones internas e información sobre el desempeño de las instalaciones de producción. Los culpables no fueron piratas informáticos, sino los propios empleados de la empresa, que habían utilizado IA generativa. Un empleado, por ejemplo, usó ChatGPT para convertir las notas de una reunión en un documento final, sin darse cuenta de que la versión gratuita del asistente de IA estaba guardando toda la información de los prompts de sus usuarios – y usándola para expandir sus conocimientos.

Un claro ejemplo que demuestra que la inteligencia generativa también conlleva riesgos, como un insuficiente nivel de concienciación de los empleados sobre las brechas de seguridad, la falta de directrices por parte de las empresas o las nuevas oportunidades de ataque para los hackers. En una encuesta global llevada a cabo por la consultora McKinsey, el 53% de los participantes que ya habían trabajado con IA generativa consideraban que la ciberseguridad era el mayor riesgo de esta nueva tecnología.

Al mismo tiempo, la IA generativa ofrece un enorme potencial a las empresas de cara a aumentar su eficiencia e innovación. El Grupo Otto, por tanto, ha buscado una manera de aprovechar las oportunidades que ofrece esta tecnología, limitando a la vez sus riesgos. Bajo el nombre ogGPT, la empresa matriz de EOS ha desarrollado su propia IA generativa para los 26.000 empleados/as del Grupo. «Buscábamos crear una solución que se ajustara a las necesidades de nuestro Grupo, y que estuviera enfocada a la seguridad y la protección de los datos», comenta Anja Körber, Head of Artificial Intelligence & Automation, Otto Group IT. La versión empresarial de pago de ChatGPT estaba descartada – aunque este asistente de IA no almacena la información de los prompts. «Los servidores están ubicados en EE. UU.», comenta Anja. «Esto significa que, en caso de duda, los empleados locales, por ejemplo de soporte, tendrían acceso a la información. Y las normativas europeas como el RGPD no tienen vigencia en los EE.UU.».

La encuesta de la consultora McKinsey también muestra claramente que existe un vacío en cuanto a directrices. El Grupo Otto ya ha abordado este asunto, también en nombre de sus filiales. En el transcurso de dos meses, los empleados del Grupo Otto desarrollaron no solamente una normativa de IA, sino también los componentes básicos individuales de ogGPT en diferentes proyectos y hackathons. El resultado de esto fue un marco básico que actualiza sus conocimientos —también con información procedente de Internet— pero que sigue siendo seguro, explica Anja: «ogGPT olvida los prompts. Tenemos un control total sobre la información».

Sin embargo, el punto fuerte de ogGPT no es sólo la seguridad. «Queríamos funciones que se ajustaran a nuestras necesidades», afirma Anja. Por poner un ejemplo, el asistente de IA puede resumir el contenido de un hilo de correo electrónico extenso. ogGPT también se está utilizando para redactar un boletín: mientras que a los lectores del boletín anteriormente solamente se les ofrecían titulares que enlazaban a otros contenidos, ahora pueden encontrar resúmenes compactos de los contenidos. Una mejora significativa que habría llevado demasiado tiempo hacer manualmente.

Una solución interna también reduce el miedo de los empleados, que tienen que acostumbrarse a integrar la IA generativa en su día a día. «Hay expertos internos y una comunidad dedicada a esto. Eso da buenas sensaciones a mucha gente, ya que si no se encuentra una solución, pueden preguntar a un compañero».

Una IA generativa interna también es útil para EOS, filial de Otto, afirma Janusch Skubatz, Chief Information Security Officer del Grupo EOS. Los primeros proyectos internos ya están en marcha. «Creo que también usaremos ogGPT en el futuro», afirma, «pero los obstáculos en materia de protección de datos en la gestión de créditos son especialmente elevados. Cuando adquirimos préstamos dudosos, por ejemplo, obtenemos acceso a información que requiere de un nivel de protección especial». Por esta razón, EOS está sujeta a normas de mayor alcance que otras empresas y, a menudo, también a requisitos contractuales de sus socios, afirma Janusch: «Por eso tenemos que comprobar cuidadosamente si la tecnología debe cumplir otros requisitos adicionales».

Sin embargo, Janusch cree que el factor más decisivo es la interacción regular con la IA generativa: «La experiencia es un requisito previo para desarrollar una sensibilidad en relación a la tecnología y a la calidad de los resultados». De esta forma, se pueden evitar situaciones de riesgo como las de Samsung y aprovechar el inmenso potencial de estas tecnologías.