Los modelos de generación de arte como Stable Diffusion, por ejemplo, han dado lugar a increíbles estallidos de creatividad, impulsando aplicaciones e incluso modelos de negocio completamente nuevos. Por otro lado, su naturaleza de código abierto permite a los malos actores utilizarlo para crear falsificaciones a gran escala, mientras que los artistas protestan porque se está lucrando con su trabajo.
¿Qué le espera a la IA en 2023? ¿Surgirán nuevas formas de IA poderosas y transformadoras, como ChatGPT, que perturbarán sectores que antes se creían a salvo de la automatización?
Se esperan más aplicaciones (problemáticas) de IA que generen arte
Con el éxito de Lensa, la aplicación de Prisma Labs para hacerse selfies con IA que se hizo viral, es de esperar que surjan muchas aplicaciones de este tipo. Y es de esperar que también sean capaces de crear imágenes NSFW y de sexualizar y alterar desproporcionadamente la apariencia de las mujeres.
Stable Diffusion, por ejemplo, recibió miles de millones de imágenes de Internet hasta que "aprendió" a asociar ciertas palabras y conceptos con determinadas imágenes. Los modelos de generación de textos han sido fácilmente engañados para que defiendan opiniones ofensivas o produzcan contenidos engañosos.
Mike Cook, miembro del grupo de investigación abierta Knives and Paintbrushes, coincide con Gahntz en que la IA generativa seguirá siendo una fuerza de cambio importante y problemática. Pero cree que 2023 tiene que ser el año en que la IA generativa "ponga por fin su dinero donde está su boca".
"No basta con motivar a una comunidad de especialistas [para crear nueva tecnología]: para que la tecnología se convierta en una parte a largo plazo de nuestras vidas, tiene que hacer ganar mucho dinero a alguien o tener un impacto significativo en la vida cotidiana del público en general", afirma Cook. "Así que predigo que veremos un serio impulso para que la IA generativa consiga realmente una de estas dos cosas, con un éxito desigual".
Los artistas lideran el esfuerzo por excluirse de los conjuntos de datos
DeviantArt lanzó un generador de arte de IA basado en Stable Diffusion y perfeccionado con obras de arte de la comunidad DeviantArt. El generador de arte fue recibido con una fuerte desaprobación por parte de los antiguos usuarios de DeviantArt, que criticaron la falta de transparencia de la plataforma a la hora de utilizar las obras subidas por ellos para entrenar el sistema.
Los creadores de los sistemas más populares -OpenAI y Stability AI- afirman que han tomado medidas para limitar la cantidad de contenido perjudicial que producen sus sistemas. Pero a juzgar por muchas de las generaciones en las redes sociales, está claro que queda trabajo por hacer.
"Los conjuntos de datos requieren un tratamiento activo para resolver estos problemas y deben someterse a un escrutinio exhaustivo, incluso por parte de las comunidades que suelen llevarse la peor parte", afirma Gahntz, comparando el proceso con las actuales controversias sobre la moderación de contenidos en las redes sociales.
Stability AI, que financia en gran medida el desarrollo de Stable Diffusion, cedió recientemente a la presión pública y anunció que permitiría a los artistas optar por no participar en el conjunto de datos utilizado para entrenar el modelo Stable Diffusion de nueva generación. A través del sitio web HaveIBeenTrained.com, los titulares de derechos podrán solicitar su exclusión antes de que comience el entrenamiento dentro de unas semanas.
OpenAI no ofrece este mecanismo de exclusión, sino que prefiere asociarse con organizaciones como Shutterstock para licenciar partes de sus galerías de imágenes. Pero dados los problemas legales y de publicidad a los que se enfrenta junto con Stability AI, es probable que sólo sea cuestión de tiempo que siga su ejemplo.
Puede que los tribunales acaben obligándola. En Estados Unidos, Microsoft, GitHub y OpenAI han sido demandados en una demanda colectiva que les acusa de violar la ley de derechos de autor al permitir que Copilot, el servicio de GitHub que sugiere líneas de código de forma inteligente, regurgite secciones de código con licencia sin dar crédito.
Tal vez anticipándose al desafío legal, GitHub ha añadido recientemente ajustes para evitar que el código público aparezca en las sugerencias de Copilot y planea introducir una función que hará referencia a la fuente de las sugerencias de código. Pero son medidas imperfectas. En al menos un caso, la configuración del filtro hizo que Copilot emitiera grandes trozos de código protegido por derechos de autor, incluido todo el texto de atribución y licencia.
Es de esperar que las críticas aumenten el año que viene, sobre todo porque el Reino Unido está estudiando normas que eliminarían el requisito de que los sistemas formados a partir de datos públicos se utilicen estrictamente con fines no comerciales.