Utilizando la IA para el Bien Común.
Salud | Innovación | 5 minutos de lectura
Equilibrando Riesgos y Recompensas a través de la Gobernanza y Normas Internacionales
La Reunión Anual de la ISO se llevará a cabo en Brisbane, Australia, del 18 al 22 de septiembre de 2023. Durante este evento, la ISO y sus miembros se unirán a líderes mundiales del cambio para resaltar cómo las Normas Internacionales contribuyen a abordar los desafíos más apremiantes del mundo.
Mientras en la vida cotidiana es común escuchar conversaciones sobre la inteligencia artificial (IA) como: Usé ChatGPT y logré x, los líderes corporativos, gobiernos y organizaciones internacionales sostienen un diálogo muy distinto. El suyo gira en torno a cómo los beneficios de la IA pueden superar sus riesgos.
Algunos argumentan la urgencia de regular la IA, otros comparan su impacto con el del movimiento nuclear e incluso algunos advierten que podría ser el fin del mundo. Al mismo tiempo, muchas empresas emergentes y consultores pretenden que la IA es la panacea para todos los males comerciales y personales, incluyendo el amor, la vida y la letalidad. Aunque es demasiado temprano para extraer muchas conclusiones, es crucial que las personas adecuadas estén sosteniendo las discusiones apropiadas. Solo de esta manera esta tecnología innovadora podrá respaldar y empoderar a la humanidad.
Dr. Kobi LeinsFellow Honorario Senior, Departamento de Estudios de Guerra, King’s College London
fuente: iso.org
Planteando las Preguntas Correctas
La realidad es que hay muchas conversaciones sobre la IA que deberíamos tener pero que estamos omitiendo. Estas abarcan desde las implicaciones sociales más amplias, como la aceleración de la desigualdad y la reducción de las personas a meros datos, hasta un punto en el que puedan ser consideradas redundantes o sin valor. Cada avance científico a lo largo de la historia ha conllevado beneficios y riesgos. De hecho, los fracasos históricos pueden enseñarnos lecciones para evitar cometer los mismos errores. Aunque la IA, en ciertos aspectos, es diferente, presenta muchos de los mismos posibles obstáculos que los cambios de paradigma anteriores. Prometer en exceso, minimizar los riesgos y permitir que los intereses comerciales guíen las conversaciones no son fenómenos nuevos. Entonces, ¿qué es lo realmente nuevo? ¿Y por qué debería importarnos?
Gran parte de lo que estamos discutiendo no es nuevo. Los modelos de lenguaje han existido desde Weizenbaum, el creador de uno de los primeros chatbots, Eliza, quien en la década de 1950 acuñó la idea de pensamiento mágico en torno a los modelos lingüísticos. Más recientemente, las propias comunidades de ciencia de datos comenzaron a plantear preocupaciones sobre algunas propuestas de uso de ChatGPT2, incluso para automatizar sentencias, potencialmente llegando a la pena de muerte, sin intervención humana. Aunque la tecnología está ahora potenciada con conjuntos de datos más amplios, muchos de los viejos problemas persisten. Lo que sí es novedoso es la velocidad y la escala de estos modelos, así como el origen de sus datos.
La Importancia de la Gobernanza
La buena noticia es que ya existe un conjunto completo de herramientas de gobernanza. Esto engloba legislación internacional y nacional en torno a la propiedad intelectual, el comportamiento corporativo, los derechos humanos, la discriminación, los contratos y la privacidad, por mencionar solo algunos aspectos.
Muchos expertos alrededor del mundo, como el Prof. Edward Santow, han abogado durante mucho tiempo por la capacitación de los abogados para que puedan entender y aplicar tanto la legislación existente como las nuevas tecnologías dentro de su profesión.
De manera paralela a la legislación, sin embargo, también deberíamos contemplar una mayor regulación. Ya existen marcos regulatorios, como el recientemente formulado Acta de IA de la UE, el Instituto Nacional de Estándares y Tecnología y la nueva política de China en torno a la IA. No obstante, algunos de estos marcos necesitan actualizaciones o revisiones, y existen vacíos normativos. Y donde existen estas lagunas, deberíamos proceder con regulaciones.
Mitigando Riesgos, Maximizando Beneficios
La verdad es que no podemos abordar los riesgos de la IA desde una perspectiva convencional. Andrew Maynard, profesor en ASU y experto en riesgo, sostiene firmemente que el pensamiento tradicional simplemente "no nos llevará a donde necesitamos estar".
Las Normas Internacionales, como las establecidas por ISO/IEC JTC 1/SC 42 en torno a la gestión de la IA, contribuirán a colmar estas brechas en la regulación. Empoderarán a los tomadores de decisiones y formuladores de políticas para crear datos y procesos coherentes que puedan ser auditados. Esto añadirá valor a las empresas a largo plazo de múltiples formas, incluyendo la elaboración de informes medioambientales, la operabilidad y la credibilidad ante las partes interesadas. Este enfoque asegurará que los beneficios superen los riesgos, en línea con las regulaciones y otras herramientas de gobernanza.
La ética en el manejo de datos también juega un papel crucial. Si se utiliza y aplica de manera adecuada, la ética en el manejo de datos puede fomentar el deseo, desde decisiones de liderazgo hasta tareas cotidianas, de "hacer las cosas no solo porque se puede, sino porque se debe".
Pero, lo más importante, las Normas Internacionales pueden asegurar que las discusiones adecuadas se lleven a cabo entre las personas adecuadas, utilizando un lenguaje compartido.
Puede llevar tiempo construir las herramientas regulatorias y la cultura que necesitamos. Sin embargo, las Normas Internacionales pueden ayudar a garantizar que alcancemos el equilibrio correcto entre riesgos y beneficios.
Contacto
¿Gerente, Director o CEO?
¿Quiere obtener información detallada sobre las Normas o saber más sobre lo que hacemos?
Póngase en contacto con nuestro equipo o consulte nuestro Kit de información.
Manténgase al día
Suscríbase a nuestro Boletín de Información Responsable para obtener las últimas noticias, opiniones e información empresarial.
English
Mapa del sitio
Haciendo la vida empresarial más fácil, más segura y mejor..
Estamos comprometidos a garantizar que nuestro sitio web sea accesible para todos. Si tiene alguna pregunta o sugerencia con respecto a la accesibilidad de este sitio, contáctenos.
Copyright © 2023 Agile Consulting All rights reserved