La Importancia de la Transparencia en los Modelos de Inteligencia Artificial
Los modelos verdaderamente de código abierto deberían permitir a los investigadores replicar e interrogarlos.Crédito: MirageC/Getty
Empresas tecnológicas como Meta y Microsoft describen sus modelos de inteligencia artificial (IA) como ‘de código abierto’ sin revelar información importante sobre la tecnología subyacente, según investigadores que analizaron varios modelos de chatbots populares.
La definición de código abierto en cuanto a los modelos de IA no está clara todavía, pero los defensores argumentan que la ‘plenitud’ de la apertura impulsa la ciencia y es crucial para los esfuerzos de hacer que la IA sea responsable. Lo que cuenta como código abierto probablemente cobrará mayor importancia cuando entre en vigor la Ley de Inteligencia Artificial de la Unión Europea. La legislación aplicará regulaciones menos estrictas a los modelos que se clasifiquen como abiertos.
Algunas grandes empresas se están beneficiando al afirmar que tienen modelos de código abierto, mientras intentan «ocultar la menor cantidad posible», dice Mark Dingemanse, un lingüista de la Universidad Radboud en Nijmegen, Países Bajos. Esta práctica se conoce como ‘greenwashing’.
Mark Dingemanse, junto con su colega Andreas Liesenfeld, crearon una tabla de clasificación que identifica los modelos más y menos abiertos. Publicaron sus hallazgos el 5 de junio en las actas de la conferencia de 2024 ACM sobre Equidad, Responsabilidad y Transparencia1.
El estudio corta gran parte de la exageración y el relleno en torno al actual debate sobre la apertura, dice Abeba Birhane, científica cognitiva en Trinity College Dublin y asesora sobre responsabilidad de la IA en la Fundación Mozilla, una organización sin ánimo de lucro con sede en Mountain View, California.
Definiendo la Apertura
El término ‘código abierto’ proviene del software, donde significa acceso al código fuente y sin límites en el uso o distribución de un programa. Sin embargo, dada la complejidad de los grandes modelos de IA y los enormes volúmenes de datos involucrados, hacerlos de código abierto no es sencillo, y los expertos siguen trabajando para definir la IA de código abierto. Revelar todos los aspectos de un modelo no siempre es deseable para las empresas, ya que puede exponerlas a riesgos comerciales o legales, dice Dingemanse. Otros argumentan que liberar modelos completamente gratuitos conlleva riesgos de uso indebido.