Inteligencia artificial: lo bueno, lo malo… el futuro
El auge de la inteligencia artificial, en concreto, de la IA generativa, que puede crear imágenes, sonidos y textos totalmente nuevos con unas pocas instrucciones, ha sido el avance tecnológico más importante de esta década.
El reto para 2024 (y los años venideros) será cómo dar a la IA un uso rentable, provechoso y ético en la empresa. La función de cumplimiento debe anticiparse a todo lo que implicará ese reto.
Por ejemplo, los propios equipos de cumplimiento podrían utilizar la IA para agilizar o reforzar la función de cumplimiento. Otras partes de su empresa podrían encontrar formas de hacer un buen uso de la IA en sus propias operaciones, o podrían avanzar imprudentemente, causando todo tipo de riesgos de cumplimiento y ciberseguridad.
Por lo tanto, incluso cuando los responsables de cumplimiento empiecen a utilizar la IA dentro de su propia función, tendrán que actuar como asesores de confianza de la alta dirección y del resto de la empresa, para que esas otras partes del negocio puedan utilizar la IA de forma prudente, legal y consciente de los riesgos.
Comprender tanto lo positivo como lo negativo
Recuerde lo que hemos dicho antes: la tecnología que hay detrás de la IA generativa es enormemente potente. Las empresas tendrán que canalizar esa enorme potencia de la forma adecuada, o se arriesgarán a caer en el desastre.
Lo positivo es que la tecnología que hay detrás de ChatGPT y sus hermanos de IA generativa es enormemente potente. La IA generativa utiliza primero el procesamiento del lenguaje natural (PLN) para que los usuarios humanos envíen consultas a la IA en el mismo lenguaje sencillo que utilizamos entre nosotros. A continuación, basándose en una gran cantidad de datos que ya ha estudiado, la IA calcula la cadena de palabras, números o píxeles que tiene más probabilidades de ser una buena respuesta a la pregunta del usuario.
Los casos de uso son convincentes. En esencia, una empresa podría superponer una interfaz de PNL a sus propios datos, de modo que los empleados pudieran hacer preguntas como: ¿Qué clientes son los que más gastan? ¿Qué solicitantes de empleo tienen las aptitudes más adecuadas a nuestras necesidades? ¿Qué revendedores piden permiso para ofrecer descuentos más a menudo? Y muchas más. La inteligencia artificial daría de inmediato respuestas claras y directas.
El aspecto negativo, sin embargo, es que sin unas sólidas barreras de seguridad, la IA podría no ofrecer siempre respuestas precisas. O podría consumir la información que le proporcionas –incluida información confidencial– para aprender a responder a las preguntas del siguiente usuario. Podría interactuar con empleados y clientes de forma inesperada. Podría aprender de un conjunto de datos defectuosos, adquiriendo malos hábitos intelectuales y dando malas respuestas, como haría cualquier ser humano.
Recuerde lo que hemos dicho antes: la tecnología que hay detrás de la IA generativa es enormemente potente. Las empresas tendrán que canalizar ese enorme poder de la forma adecuada o se arriesgarán a caer en el desastre.
Los guardarraíles comienzan con la gobernanza
A medida que nos adentramos en 2024, el reto inmediato para las organizaciones será establecer una estructura de gobernanza para toda la empresa sobre cómo su negocio adopta la IA. Es decir, algún grupo directivo de la empresa –llamémoslo comité de dirección– debe articular las directrices básicas para que la empresa adopte la IA de forma sensata y orientada al cumplimiento. A continuación, otros empleados más abajo en el organigrama pueden desarrollar los casos específicos de uso de la IA que tengan más sentido para su empresa.
Ese comité directivo debería incluir al menos al CISO, al director de cumplimiento normativo, al responsable de tecnología, al director financiero y al asesor jurídico. Otros candidatos plausibles (en función de su modelo y objetivos empresariales) podrían ser los responsables de RRHH, marketing y otros.
Estos comités de dirección podrían ser un lugar para que el director de cumplimiento brille. Al fin y al cabo, la mayoría de los miembros del comité de dirección serán expertos en prever casos de uso, pero no en comprender todos los riesgos que conllevan. Usted, el CCO, debe ser el consigliere que guíe al comité mientras traza su estrategia de adopción de la IA.
Por ejemplo, ya hay algunos casos de gobiernos que regulan el uso de la IA. En la ciudad de Nueva York, los empleadores que quieran utilizar la IA para descartar candidatos a un puesto de trabajo (incluyendo algo tan simple como búsquedas automatizadas de palabras clave) deben realizar una «auditoría de sesgos» en la IA y publicar los resultados en línea. Si esta norma se aplica a su empresa, ¿la conoce el equipo de RRHH? ¿Quién trabaja para garantizar que la auditoría de sesgos se lleva a cabo con prontitud y correctamente?
Este es el tipo de cuestiones que puede explorar un comité directivo de la IA, y los responsables de cumplimiento pueden desempeñar un valioso papel como puente entre el mundo normativo y el mundo empresarial. 2024 será un año en el que los responsables de cumplimiento podrán ayudar a la empresa a adoptar la IA de forma ética, legal y sostenible.
Un modelo para la IA en la función de cumplimiento
Los responsables de cumplimiento también pueden dedicar 2024 a averiguar cómo integrar la IA en sus propias operaciones. Aquí hay mucho potencial.
Antes hemos mencionado que la IA aprende consumiendo grandes cantidades de datos. Pues bien, las empresas tienen datos a montones. Por lo tanto, podría desarrollar una herramienta de IA generativa que sólo estudie sus propios datos sobre transacciones, terceros, comunicaciones internas de los empleados y mucho más. A continuación, podría empezar a hacer preguntas a la IA sobre los riesgos de cumplimiento en frases sencillas y directas. Obtendrías respuestas sencillas y directas a cambio.
Por supuesto, esto supone que su empresa tiene buenas prácticas de gestión de datos, y que el equipo de cumplimiento tiene acceso a todos los datos. Esto presenta otro objetivo que los responsables de cumplimiento podrían fijarse en 2024: trabajar estrechamente con otras partes de la empresa para crear prácticas sólidas de gestión de datos, y asegurarse de tener acceso y gestionar todos los datos para que la adopción de la IA pueda aportar el máximo valor.
¿Y la regulación de la Inteligencia Artificial?
La regulación de la IA está aún en pañales. Hemos visto algunos primeros intentos, como la mencionada ley de la ciudad de Nueva York, pero tanto en Estados Unidos como en Europa las normativas específicas siguen siendo escasas.
Es posible que veamos más movimiento en ese frente en 2024. La Unión Europea, por ejemplo, propuso la Ley de Inteligencia Artificial de la UE en 2023, que (entre otras cosas) exigiría que toda la IA generativa se sometiera a una revisión externa antes de su lanzamiento comercial; pero esa legislación aún tiene largas negociaciones por delante antes de entrar en vigor. La Administración Biden también propuso varios «pilares» de buen uso de la IA, pero son vagos y voluntarios.
Por otra parte, los responsables de cumplimiento no necesitan normativas específicas sobre IA para mantenerse ocupados. La IA ya está aquí, filtrándose en las operaciones comerciales de toda la empresa. 2024 será un año para que los responsables de cumplimiento se comprometan con la alta dirección sobre cómo adoptar la inteligencia artificial, y para que usted perfeccione sus propias capacidades tecnológicas de GRC para sacar el máximo provecho de la IA.
Predicción 2024
A medida que la tecnología de la IA siga desarrollándose y ganando adeptos en todo el mundo, también lo harán las normativas propuestas para regular su uso. Podemos esperar que estas normativas varíen dependiendo de los casos de uso, las geografías y la función específica de la propia inteligencia artificial.
Es probable que la inteligencia artificial galvanice a los líderes, que deben estar de acuerdo en cómo se utiliza en la empresa y cómo se aplican las políticas. Podemos esperar que cada vez más líderes de cumplimiento y ciberseguridad den un paso al frente y defiendan la gobernanza y la seguridad adecuadas a medida que la IA se convierta en una tecnología básica para mejorar la eficiencia y la precisión en las organizaciones.
Fuente de la publicación: NAVEX.
Recuperado de https://www.navex.com/en-us/blog/article/artificial-intelligence-the-good-the-bad-the-future/ (Traducido por ICR).