La herramienta de Google que te desenmascarará si haces tu tarea con IA

Google ha desarrollado SynthID Text, una tecnología que emplea marcas de agua "invisibles" para identificar textos generados mediante algoritmos de inteligencia artificial (IA). Disponible de forma gratuita y en código abierto, esta herramienta está orientada a desarrolladores que buscan crear sistemas de IA de manera ética y responsable.

Google DeepMind explicó que SynthID Text permite etiquetar textos creados por modelos de lenguaje, facilitando así la identificación de contenido generado por IA. Estas marcas de agua son imperceptibles al ojo humano y requieren un software específico para ser detectadas, funcionando de manera óptima en textos largos o con variaciones.

La efectividad de SynthID se ha probado en el modelo Gemini, lo que impulsó a Google a abrir el código para que otras empresas puedan integrar la herramienta en sus propios modelos, ayudando a identificar la fuente de los textos y a abordar limitaciones técnicas.

El lanzamiento de SynthID Text se suma a las iniciativas previas de Google para ayudar al público a diferenciar entre contenido generado por humanos y por IA. En años anteriores, la compañía había implementado un sistema de marcas para imágenes, ampliando luego estas capacidades a videos.

SynthID Text opera asignando una puntuación de probabilidad a las palabras en textos con y sin marca de agua, diferenciando así si el contenido fue generado por IA. Google especifica que el algoritmo utiliza una clave criptográfica para asignar puntuaciones aleatorias a cada token, eligiendo aquel con el valor más alto para incorporarlo en el texto.

Sin embargo, la herramienta enfrenta desafíos al identificar textos cortos, modificados o traducidos, así como en preguntas fácticas. Este desarrollo de Google es crucial para evaluar la robustez de estas técnicas y su impacto en distintos contextos, destacando la creciente tensión entre el avance de la IA y los derechos de propiedad intelectual.