La semana en IA: la IA generativa envía spam a la web

Mantenerse al día con una industria tan acelerada como la IA es un gran desafío. Hasta que una IA pueda hacerlo por usted, aquí hay un resumen útil de las últimas historias del mundo del aprendizaje automático, así como investigaciones y experimentos notables que no hemos cubierto solos.

Esta semana, SpeedyBrand, una empresa que utiliza IA generativa para crear contenido optimizado para SEO, salió de la clandestinidad con la ayuda de Y Combinator. Todavía no ha recaudado mucho dinero ($2.5 millones) y su base de clientes es relativamente pequeña (alrededor de 50 marcas). Pero me hizo pensar en cómo la IA generativa está comenzando a cambiar la estructura de la web.

Como escribió James Vincent de The Verge en un artículo reciente, los modelos generativos de IA abaratan y facilitan la generación de contenido de menor calidad. Newsguard, una empresa que proporciona herramientas para verificar fuentes de noticias, ha descubierto cientos de sitios web con publicidad con nombres genéricos que contienen información errónea creada con IA generativa.

Plantea un problema para los anunciantes.Muchos de los sitios web destacados por Newsguard parecen estar diseñados únicamente para abusar de la publicidad programática o de los sistemas automatizados utilizados para colocar anuncios en las páginas. En su informe, Newsguard encontró casi 400 anuncios de 141 marcas importantes que aparecían en 55 sitios web de noticias basura.

No son sólo los anunciantes los que deberían preocuparse. Como señala Kyle Barr de Gizmodo, es posible que solo se necesite un artículo generado por IA para generar montañas de participación. E incluso si cada artículo generado por IA genera solo unos pocos dólares, eso es menos que el costo de crear el texto en primer lugar, y el dinero potencial de publicidad que no se dirige a sitios de buena reputación.

Entonces, ¿cuál es la solución? ¿Hay uno? Hay algunas preguntas que me mantienen cada vez más despierto por la noche. Barr sugiere que es trabajo de los motores de búsqueda y las plataformas publicitarias reforzar su control y castigar a los malos actores que usan IA generativa. Pero dada la velocidad a la que evoluciona el campo, y la escalabilidad infinita de la IA generativa, no estoy convencido de que puedan seguir el ritmo.

Por supuesto, el contenido de spam no es un fenómeno nuevo y ya ha habido olas. La web se ha adaptado. La diferencia esta vez es que la barrera de entrada es dramáticamente baja, tanto en términos de costo como de tiempo invertido.

Vincent adopta un tono optimista, dando a entender que es la web Es Eventualmente, si la IA se inunda con basura, podría estimular el desarrollo de plataformas mejor financiadas. No estoy seguro. Sin embargo, no hay duda de que nos encontramos en un punto de inflexión y que las decisiones que se toman en torno a la IA generativa y sus resultados seguirán afectando el funcionamiento de la web durante algún tiempo.

Aquí hay otras historias notables de IA de los últimos días:

OpenAI presenta oficialmente GPT-4: OpenAI anunció esta semana la disponibilidad general de GPT-4, su último modelo de generación de texto, a través de su API paga. GPT-4 puede generar texto (incluido el código) y aceptar imágenes y entrada de texto, una mejora con respecto a GPT-3.5, su predecesor, que solo aceptaba texto, y se desempeña a "niveles humanos" en varios puntos de referencia académicos y profesionales. Pero no es perfecto, como hemos señalado en nuestra cobertura anterior. (Mientras tanto, se dice que la adopción de ChatGPT ha disminuido, pero ya veremos).

Poner bajo control la IA "superinteligente": En otras noticias de OpenAI, la compañía está formando un nuevo equipo dirigido por Ilya Sutskever, su científico jefe y uno de los cofundadores de OpenAI, para desarrollar formas de comandar y controlar sistemas de IA "superinteligentes".

Ley Antiparcialidad de la Ciudad de Nueva York: Después de meses de demoras, la ciudad de Nueva York comenzó esta semana a hacer cumplir una ley que requiere que los empleadores que usan algoritmos para contratar, contratar o ascender empleados presenten esos algoritmos a una auditoría independiente y publiquen los resultados.

Valve da luz verde silenciosamente a los juegos generados por IA: Valve emitió una declaración poco común después de afirmar que estaba prohibiendo juegos con activos generados por IA de su tienda de juegos Steam. El desarrollador notoriamente reservado dijo que su política era una evolución, no una postura contra la IA.

Humane revela el Ai Pin: Humane, la startup del ex dúo de diseño e ingeniería de Apple Imran Chaudhri y Bethany Bongiorno, reveló esta semana los detalles de su primer producto: The Ai Pin. Resulta que el producto de Humane es un dispositivo portátil con una pantalla proyectada y funciones impulsadas por inteligencia artificial, como un teléfono inteligente futurista, pero en un factor de forma completamente diferente.

Advertencias sobre el Reglamento de IA de la UE: Los fundadores de grandes tecnologías, los directores generales, los capitalistas de riesgo y los gigantes de la industria de toda Europa firmaron una carta abierta a la Comisión de la UE esta semana, advirtiendo que Europa podría perderse la revolución de la IA generativa si la UE aprueba una legislación que restringe la supresión de la innovación.

Estafa de deepfake circulando: Dinero este clip El defensor de la financiación al consumo británico, Martin Lewis, aparentemente ha aprovechado una oportunidad de inversión respaldada por Elon Musk. ¿Parece normal verdad? No exactamente. Es un deepfake generado por IA, y posiblemente un anticipo de la miseria generada por IA que se está extendiendo rápidamente por nuestras pantallas.

Juguetes sexuales alimentados por IA: Lovense, quizás mejor conocido por sus juguetes sexuales con control remoto, anunció su ChatGPT Pleasure Companion esta semana. Lanzado como una versión beta en la aplicación de control remoto de la compañía, Advanced Lovense ChatGPT Pleasure Companion lo invita a disfrutar de historias emocionantes y eróticas que Companion crea según el tema que elija.

Otro aprendizaje automático

Nuestra revisión de investigación comienza con dos proyectos muy diferentes en ETH Zurich. El primero es aiEndoscopic, un derivado de la intubación inteligente. En muchos casos, la intubación es necesaria para la supervivencia del paciente, pero es un procedimiento manual complicado que generalmente realizan especialistas. El intuBot utiliza la visión por computadora para reconocer y reaccionar ante una transmisión en vivo desde la boca y la garganta y para controlar y corregir la posición del endoscopio. Esto podría permitir a las personas intubar de manera segura cuando sea necesario, en lugar de tener que esperar al especialista, lo que podría salvar vidas.

Aquí lo explican con un poco más de detalle:

En un área completamente diferente, los investigadores de ETH Zurich también han hecho una segunda contribución a una película de Pixar, siendo pioneros en la tecnología requerida para animar humo y fuego sin sacrificar la complejidad fractal de la caída de dinámica de fluidos. Su enfoque fue notado y desarrollado por Disney y Pixar para la película Elemental. Curiosamente, es menos una solución de simulación y más una solución de mapeo de estilo: un atajo inteligente y aparentemente bastante valioso. (La imagen de arriba es de esta).

La IA en la naturaleza siempre es interesante, pero la IA en la naturaleza en su aplicación a la arqueología lo es aún más. La investigación, dirigida por la Universidad de Yamagata, tuvo como objetivo identificar nuevas Líneas de Nazca, los "geoglifos" gigantes en Perú. Uno pensaría que, dado que son visibles desde la órbita, serían bastante obvios, pero la erosión y el crecimiento de los árboles a lo largo de los milenios desde que se formaron estas misteriosas formaciones significan que un número desconocido simplemente se esconde fuera de la vista. Después de entrenar un modelo de aprendizaje profundo en imágenes aéreas de geoglifos conocidos y ocultos, se lanzó a otras vistas y sorprendentemente descubrió al menos cuatro nuevos, como puede ver a continuación. ¡Muy emocionante!

Cuatro geoglifos de Nazca recién descubiertos por un agente de IA.

En un sentido más inmediatamente relevante, la tecnología relacionada con la IA está encontrando tareas siempre nuevas en la detección y predicción de desastres naturales. Los ingenieros de Stanford están recopilando datos para entrenar futuros modelos de predicción de incendios forestales mediante la ejecución de simulaciones de aire caliente sobre el dosel de un bosque en un tanque de agua de 30 pies. Si vamos a modelar la física de las llamas y las brasas que se extienden más allá de los confines de un incendio forestal, debemos comprenderlas mejor, y este equipo está haciendo todo lo posible para acercarse.

En UCLA, están estudiando cómo predecir deslizamientos de tierra, que ocurren con mayor frecuencia a medida que cambian los incendios y otros factores ambientales. Pero si bien la IA se ha utilizado para predecir con cierto éxito, no muestra lo que hace, lo que significa que una predicción no explica si se debe a la erosión, un cambio en los niveles de las aguas subterráneas o la actividad tectónica. En un nuevo enfoque de "red neuronal superponible", las capas de la red usan datos diferentes pero se ejecutan en paralelo y no todos juntos, lo que hace que la salida sea un poco más específica cuando las variables conducen a un mayor riesgo. También es mucho más eficiente.

Google se enfrenta a un desafío interesante: ¿cómo se consigue que un sistema de aprendizaje automático aprenda del conocimiento peligroso pero no lo difunda? Por ejemplo, si su equipo de entrenamiento incluye la receta del napalm, no deberían repetirla, pero para saber que no la repetirán, necesitan saber qué es lo que no repetirán. ¡Una paradoja! Es por eso que el gigante tecnológico está buscando un método de "desaprendizaje automático" que haga que ese acto de equilibrio sea seguro y confiable.

Si está buscando una inmersión más profunda en por qué las personas confían en los modelos de IA aparentemente sin una buena razón, no busque más allá de este editorial científico de Celeste Kidd (UC Berkeley) y Abeba Birhane (Mozilla). Profundiza en los fundamentos psicológicos de la confianza y la autoridad y cómo los agentes actuales de IA los usan fundamentalmente como peldaños para aumentar su propio valor. Es un artículo realmente interesante si buscas sonar inteligente este fin de semana.

Aunque a menudo escuchamos sobre la infame máquina de ajedrez falsa mecánica turca, esta farsa inspiró a las personas a crear lo que pretendía ser. IEEE Spectrum tiene una historia intrigante sobre el físico e ingeniero español Torres Quevedo, quien creó un jugador de ajedrez mecánico real. Sus habilidades eran limitadas, pero así es como sabes que fue real. Algunos incluso afirman que su máquina de ajedrez fue el primer "juego de computadora". Comida para el pensamiento.