Índice de contenidos
La inteligencia artificial ya forma parte del trabajo diario de muchas empresas. Ayuda a redactar propuestas, resumir reuniones, analizar información, atender a clientes... Pero su incorporación plantea una pregunta que no siempre tiene una respuesta clara:
¿sabemos qué herramientas utiliza nuestro equipo y qué datos comparte con ellas?
IA en la sombra: cuando la tecnología avanza sin reglas compartidas
Uno de los principales riesgos abordados fue la IA en la sombra, también conocida como shadow AI: el uso de herramientas de inteligencia artificial sin conocimiento o autorización de la organización.
Un empleado puede recurrir a una cuenta personal para preparar un informe o analizar un contrato con la intención de ahorrar tiempo. Sin embargo, esa decisión puede implicar compartir información confidencial sin haber revisado las condiciones del servicio.
Se ha puesto foco en tres ámbitos:
- Los datos: qué información se introduce y si contiene datos personales, contratos o información financiera.
- Los proveedores: quién presta el servicio, cómo trata la información y qué condiciones ofrece el plan contratado.
- La relación con el cliente: qué respuestas y contenidos genera la IA en nombre de la empresa.
La idea central fue clara: aprovechar el impulso de la inteligencia artificial requiere conocer sus usos, pero también establecer controles proporcionales.
Reglamento Europeo de IA: formación, transparencia y evaluación del riesgo
La jornada también abordó cómo trasladar el Reglamento Europeo de IA a la actividad empresarial.
Las obligaciones dependen del uso del sistema y del papel de la organización. Resumir una reunión, atender consultas mediante un chatbot o intervenir en la evaluación de candidatos plantea escenarios diferentes.
Entre los temas tratados destacó la formación en inteligencia artificial. Los equipos necesitan comprender las herramientas que utilizan, sus limitaciones y los riesgos asociados a su trabajo. Como medida de gobernanza, se planteó documentar las acciones formativas y mantenerlas actualizadas.
Otro eje fue la transparencia: revisar cuándo corresponde informar de una interacción con IA o identificar determinados contenidos generados o manipulados. Estas exigencias deben analizarse según el caso; no implican que cualquier contenido elaborado con ayuda de IA deba llevar el mismo aviso.
¿Dónde está la línea entre persuadir y manipular?
Esta pregunta abrió la reflexión sobre los usos de IA en marketing, segmentación y decisiones sobre personas.
La inteligencia artificial puede ayudar a conocer mejor a los clientes y adaptar la comunicación. Sin embargo, conviene evaluar con especial cuidado los sistemas que elaboran perfiles, puntúan personas o influyen en decisiones que les afectan.
También se destacó la importancia de supervisar los chatbots: sus respuestas forman parte de la experiencia de cliente y deben ser coherentes con los servicios, compromisos y valores de la compañía.
Del diagnóstico a una política de uso de IA
La sesión propuso una hoja de ruta práctica para avanzar en la gobernanza de IA en empresas:
- Identificar las herramientas utilizadas, incluidas las informales.
- Revisar sus finalidades, datos, cuentas y proveedores.
- Establecer reglas sobre herramientas autorizadas, información que puede compartirse y revisión humana.
- Formar al equipo según sus funciones y casos de uso.
- Asignar responsables y habilitar un canal de dudas e incidencias.
El cierre dejó una prioridad para las empresas: convertir los usos dispersos de inteligencia artificial en una práctica compartida, supervisada y alineada con el negocio.
¿Sabes cómo se está utilizando la IA en tu organización? Descubre por dónde empezar con la autoevaluación de IA para empresas de Bluak.
Test AI Act para cumplir el reglamento
¿Cumple tu empresa con el reglamento de IA? Haz el Test AI Act y obtén un diagnóstico al momento.
