Google lanza herramienta para identificar contenido de IA de código abierto

Caracas/Foto: Archivo.- Google anunció SynthID, su herramienta para identificar contenido generado por inteligencia artificial (IA), ahora es de código abierto para todos los usuarios de equipos especializados de la empresa estadounidense.

Lea también: Excarcelan a diez menores de edad detenidos tras las elecciones, informa el OVP

Esta nueva herramienta, que ya había sido lanzada el año pasado de forma paga, íntegra marcas de agua digitales en imágenes, audio, texto y video con el objetivo de fomentar la confianza en la información e informan cuando un contenido es creado con IA.

Poder identificar el contenido generado por IA es fundamental para abordar problemas como la desinformación y el contenido erróneo. Si bien no es una solución milagrosa, SynthID representa un conjunto de soluciones técnicas prometedoras para este acuciante problema de seguridad de la IA.

El kit de herramientas de SynthID, actualmente en versión beta, continúa evolucionando e integrándose en una gama cada vez más amplia de productos. “Esto ayuda a empoderar a las personas y las organizaciones para que trabajen de manera responsable con contenido generado por IA”, destaca.

Google usa modelos y algoritmoen sus nuevas herramientas

SynthID utiliza una variedad de modelos y algoritmos de aprendizaje profundo para identificar contenido generado por IA. Asimismo, puede escanear imágenes, audio, texto o video para ayudar a los usuarios a determinar si el contenido, o parte de él, se generó con herramientas digitales.

Esta tecnología está disponible para los clientes de Vertex AI que utilizan modelos de conversión de texto a imagen, generación de imágenes y videos.

“En octubre de 2024, publicamos la tecnología de marca de agua de texto SynthID en un artículo de investigación detallado publicado en Nature . También la publicamos en código abierto a través del Google Responsible Generative AI Toolkit , que proporciona orientación y herramientas esenciales para crear aplicaciones de IA más seguras”.