Es casi imposible evitar ver contenido generado por IA en línea, pero no tiene por qué ser así. YouTube, Instagram, TikTok y otros han intensificado sus esfuerzos de autenticación de contenido durante el año pasado, y muchos ahora aplican etiquetas automáticamente para distinguir fotos, videos y música generados por IA de aquellos creados por creadores humanos reales.
Todo esto está muy bien si encontramos contenido aleatorio, pero ¿sabes qué es mejor? Permitiéndonos filtrar la regresión de la IA.
Los esfuerzos actuales de etiquetado no han cambiado significativamente la forma en que se presenta el contenido en línea. Es posible que notes que algunos videos de TikTok o YouTube en tus feeds ahora tienen revelaciones de IA en la descripción o etiquetas de información superpuestas en el propio clip. Meta adopta un enfoque similar al aplicar etiquetas de “información de IA” a imágenes en Facebook e Instagram que contienen metadatos de IA específicos o divulgaciones voluntarias de los creadores.
Pero si realmente quieres evita Ver algo que lleve tales etiquetas (lo cual es justificable, dada la descomposición del cerebro que causan, así como las preocupaciones éticas y ambientales en torno a la IA generativa) es en realidad muy difícil de hacer. Un filtro solucionaría esto fácilmente. Todo lo que necesitamos es la casilla de verificación «AI» para alternar.
Me comuniqué con Meta, Google, TikTok y Spotify para preguntarles si tienen planes de permitir a los usuarios filtrar los diversos contenidos que han autenticado utilizando sistemas de clasificación de IA. TikTok y Spotify nunca respondieron y Google dijo que no tenía nada que compartir. Meta no proporcionó un comentario atribuido. Pero en resumen, ninguna de estas empresas dijo “sí”.
Una de las únicas plataformas online que he visto con un filtro de contenido de IA es DeviantArt, y su implementación es muy sencilla. Por un lado, no puedes acceder a él a través de los feeds de DeviantArt o la página de la tienda, por lo que parece estar algo oculto. En su lugar, debe crear una cuenta y luego pasar el cursor sobre el ícono de usuario en la parte superior derecha de la página para encontrar el menú «Configuración de contenido AI». A partir de ahí, sólo tienes dos opciones: la configuración predeterminada «Mostrar IA» o la opción «Suprimir IA» que afirma que verás «menos instancias» de imágenes generadas o procesadas por la IA.
Después de probar ambas opciones, lamentablemente no veo una diferencia notable. Tengo bastante buen ojo para detectar «ilustraciones digitales» generadas por IA en este momento, pero no tuve que confiar solo en mis sospechas: casi todas las imágenes cuestionables que seleccioné incluían una divulgación del creador en la descripción que confirmaba que el trabajo había sido escupido por un robot. DeviantArt hace un mal trabajo Aplicar automáticamente etiquetas de IA A imágenes con metadatos que indiquen claramente la fuente de la IA.
Pinterest Tiene un sistema similar. Los usuarios que hayan iniciado sesión en una cuenta de Pinterest pueden tocar el ícono de Configuración, seleccionar «Perfeccionar sus recomendaciones» y luego tocar la pestaña «Contenido de IA» para alternar categorías específicas, que incluyen arte, belleza, moda y decoración del hogar. Deshabilitar cualquiera de estas opciones mostrará «menos contenido modificado por IA» para esa categoría específica, según Pinterest, pero en mi experiencia, está lejos de ser perfecto. También podría decirse que es más difícil encontrar la configuración que un filtro integrado en tus feeds de Pinterest. Todavía vi muchas fotos con información sospechosa de IA (incluidos modelos fotográficos extrañamente perfectos y errores de nitidez inexplicables), a pesar de que los filtros de IA estaban al máximo.
Es casi seguro que esto es lo que sucedería si otras plataformas como YouTube o Instagram introdujeran un filtro de contenido de IA: no funcionaría tan bien. Pero eso está bien porque expondría las «soluciones» ineficaces utilizadas por los magnates de la IA. Existen en el papel para complacer a los reguladores y críticos, pero hacen poco para abordar el problema real de distinguir entre falsificación de IA, fotografía original y obras creativas.
y plataformas el lo hace Sé que es un problema. Adam Mosseri, director de Instagram, afirmó en diciembre pasado que “la autenticidad se está convirtiendo en un recurso escaso” en medio del aumento del contenido generado por inteligencia artificial. Y ahora tenemos al CEO de Google, Sundar Pichai, confesando recientemente Descifrado «Hay muchas cosas malas con la IA» y los usuarios de Internet deben «adaptarse a ellas». Bueno, danos los filtros.
Los sistemas basados en código fuente como C2PA y SynthID funcionan incorporando metadatos invisibles o marcas de agua en el contenido en el momento de su creación. Pero hay muchos modelos de IA de código abierto que no hacen esto (especialmente si están diseñados para propósitos nefastos), e incluso así, los metadatos pueden eliminarse con demasiada facilidad para hacerlos confiables. También existen métodos basados en la detección que analizan patrones en el contenido digital y luego evalúan la probabilidad de que se haya utilizado IA para crearlo, pero estos pueden proporcionar falsos positivos. Actualmente, nada de esto funciona eficazmente a gran escala.
Sin embargo, las empresas, incluidos los proveedores de inteligencia artificial como OpenAI, actualmente anuncian estas soluciones de clasificación de inteligencia artificial como algo que ayudará a evitar que las personas sean estafadas con deepfakes y otras falsificaciones engañosas. Si los reguladores descubren lo ineficaces que son, es posible que las plataformas en línea y los proveedores de inteligencia artificial necesiten encontrar una solución real. el lo hace Acción, en lugar de lo que actualmente parece una cortina de humo.
Las plataformas argumentarán que corren el riesgo de etiquetar erróneamente el contenido original si impulsan demasiado las iniciativas de calificación. Tanto muertos como YouTube Esto se descubrió de la manera más difícil después de que se aplicaron etiquetas de IA a fotos y videos que, según los creadores, se produjeron sin la ayuda de dichas herramientas. Si esto es una preocupación con los sistemas de etiquetado actuales, Entonces encuentra una mejor solución.. ¿Seguramente mejorar la experiencia de usuario de millones de usuarios es una inversión que vale la pena para evitar la competencia?
Y mientras pregunto, ¿por qué no puedo informar todos los errores de IA sin nombre que veo todos los días? Dada la magnitud del problema -con Un estudio realizado por Kaboeng el año pasado Por ejemplo, descubrir que más del 20 por ciento de los videos de YouTube que se muestran a nuevos usuarios son videos de baja calidad; imagino que se necesitarán muchos moderadores humanos para examinar de manera efectiva cada informe.
Quizás ese sea el problema. A medida que las grandes empresas tecnológicas reemplazan a sus trabajadores con IA que se supone debe superarlos, ¿pueden darse el lujo de alejarse de su narrativa cuidadosamente elaborada y contratarlos nuevamente para solucionar los problemas de la IA? Los humanos tienden a tener requisitos molestos, por ejemplo. Salarios y beneficiosen comparación con los sistemas de supervisión automatizados que carecen de habilidades de investigación precisas.
Una alternativa a categorizar el contenido generado por IA sería comenzar a categorizar a los creadores humanos verificados. Esto no identificará necesariamente el contenido artificial publicado. por Estos creadores, pero puede ayudarnos a reducir las granjas de contenido no verificadas que producen contenido de baja calidad. Este es el futuro que Mosseri de Instagram ha propuesto para la plataforma para compartir fotos de Meta y es algo que Spotify ya está haciendo con artistas verificados.
Por supuesto, Meta, Spotify y Google no solo alojan imágenes, anuncios y música generados por IA; También son responsables de fabricar las herramientas que creas. Por eso insisten en no todos El contenido de IA es descuidado y se trata más de calidad: si se vuelve lo suficientemente convincente, esperan que no lo notes y continúes sorbiendo felizmente de la alcantarilla. Permitir que los usuarios los filtren independientemente iría en contra de todos los esfuerzos que han hecho estas plataformas para aprovechar la IA: ellos el quiere Tuyo para abrazar la planta de desechos.
Estoy feliz de que se demuestre que estoy equivocado. en realidad soy honesto Alegato Que las plataformas en línea demuestren que los esfuerzos de etiquetado de IA no fueron una pérdida de tiempo. Pero por ahora, tienen todas las cartas y sólo podemos esperar que sus esfuerzos por moderar la IA sean suficientes. Entonces, danos un filtro básico de “sin IA” o “creador humano verificado” y juzgaremos qué tan bien funciona realmente.