lLa discusión sobre cómo diferenciar un texto escrito por una persona de otro generado por inteligencia artificial entra en una nueva fase.
Claude, la plataforma desarrollada por Anthropic, comenzó a incorporar una marca de agua oculta en determinados textos generados por sus modelos en la Unión Europea, según información publicada este martes por El País.
La medida puede convertirse en un precedente importante para toda la industria.
Desde la popularización de los asistentes generativos, universidades, medios de comunicación, empresas y gobiernos intentan encontrar métodos confiables para determinar cuándo un contenido ha sido creado utilizando inteligencia artificial.
El problema es que los llamados detectores de IA han demostrado limitaciones.
Un texto puede ser modificado, traducido o reescrito, haciendo mucho más difícil establecer su origen únicamente mediante análisis lingüístico.
La estrategia de introducir algún tipo de señal invisible busca atacar el problema desde otro ángulo: incorporar información desde el propio proceso de generación.
El asunto tiene especial importancia para medios de comunicación y creadores de contenido.
Las herramientas generativas ya son utilizadas para elaborar resúmenes, traducciones, propuestas publicitarias, guiones, publicaciones para redes sociales y asistencia editorial.
Eso no significa necesariamente sustituir a periodistas o creativos. El desafío consiste en establecer reglas claras respecto a cómo se utiliza la tecnología y cuándo debe informarse al público.
La educación constituye otra de las áreas directamente afectadas.
Profesores y universidades llevan años intentando determinar qué porcentaje de un ensayo o investigación fue producido mediante herramientas automáticas. Una tecnología de identificación incorporada desde el modelo podría modificar los mecanismos de evaluación académica.
También existen interrogantes.
Una marca de agua digital debe ser suficientemente robusta para sobrevivir modificaciones, pero al mismo tiempo no puede afectar la calidad del texto.
Además, no todos los modelos de inteligencia artificial necesariamente adoptarán el mismo sistema.
Si cada compañía desarrolla un mecanismo diferente, la industria podría terminar necesitando estándares comunes.
La Unión Europea vuelve a convertirse en uno de los principales laboratorios regulatorios para la inteligencia artificial.
Sus normas han presionado a las grandes tecnológicas a introducir mecanismos de transparencia y control que posteriormente podrían extenderse a otros mercados.
Para América Latina, y Ecuador en particular, el debate llegará inevitablemente.
Empresas, universidades, medios y entidades públicas utilizan cada vez más herramientas generativas, aunque todavía existe poca regulación específica sobre identificación de contenidos.
El cambio de Claude demuestra que la próxima batalla de la inteligencia artificial no será únicamente construir modelos más inteligentes.
También será demostrar qué fue creado por una máquina y qué fue creado por una persona.