07 Oct La IA generativa ocupa un lugar central en la lucha contra el odio: conclusiones de la conferencia «Hackear el odio»
«La tecnología se ha utilizado como arma contra los judíos en todo el mundo», afirmó Chen Shmilo en la conferencia » Hackear el odio», en la que líderes tecnológicos, diplomáticos y personas influyentes se unieron para luchar contra el odio en línea.
Por Ronnie Rosenman
Mlamdovsky Somech (derecha) y Shmilo (izquierda): “Estamos adaptando el mundo al nuevo campo de batalla”. (Foto: Idan Marzuk)
Las crecientes capacidades de la inteligencia artificial (IA) generativa están transformando las industrias y cambiando la forma en que vivimos, nos comunicamos y resolvemos problemas. Pero para Shiran Mlamdovsky Somech, fundadora y directora ejecutiva de Generative AI for Good, y Chen Shmilo, director ejecutivo de la Asociación de Ex Alumnos de 8200, la IA no es solo una herramienta para el progreso – sino que es a la vez un vehículo para el cambio social y un soldado en la guerra actual.
Esta visión ocupó un lugar central en la conferencia «Hackear el odio – Tecnología israelí contra el antisemitismo en línea», un evento que mostró el potencial de la IA para abordar cuestiones como el antisemitismo y otras formas de discurso de odio en las numerosas plataformas sociales actuales.
La demanda superó incluso las expectativas de los organizadores. (Foto: Idan Marzuk)
La conferencia, organizada a través de una colaboración entre Generative AI for Good y la Asociación de Ex Alumnos de 8200 y presentada por la graduada del Programa de Liderazgo Gesher y periodista Noa Lavie, reunió a líderes de varios sectores tecnológicos, diplomáticos, políticos e incluso personas influyentes que buscan usar su plataforma para el bien. Más que cualquier otra cosa, esta variedad marcó la importancia incomparable de la colaboración intersectorial para abordar este desafío social global. «No se trata solo de nosotros», dijo Mlamdovsky Somech. «Estamos adaptando el mundo para el nuevo campo de batalla».
Entre los socios de la conferencia se encontraban empresas y organizaciones líderes, como Microsoft, Bank Hapoalim, el Ministerio de Asuntos de la Diáspora y Lucha contra el Antisemitismo, la Organización Sionista Mundial, la Federación UJA de Nueva York, Gesher Leadership Institute y Group 9500.
Mlamdovsky Somech, que comenzó su carrera en la industria de los medios y la tecnología, cambió su vida después de un encuentro profundamente emotivo con una sobreviviente de violencia doméstica. Su historia conmovió a Mlamdovsky Somech y le planteó una pregunta profunda: «¿Qué pasaría si pudiéramos usar la tecnología para dar voz a las mujeres que no sobrevivieron?». «Al principio, no estaba segura de si era una idea loca o genial, pero decidí intentarlo». Su proyecto, Escucha mi voz, logró reunir a 28 socios de varios sectores, llegó a plataformas internacionales como las Naciones Unidas (ONU) y la OTAN, y ganó premios internacionales.
El evento abordó una de las formas más insidiosas de odio en el mundo digital actual. (Foto: Idan Marzuk)
Mlamdovsky Somech dirigió varios otros proyectos, promoviendo y creando conciencia sobre temas sociales como la violencia contra las mujeres, la educación, la democracia, la trata de personas y la conmemoración del Holocausto en colaboración con Meta, Microsoft, March of the Living y más. Desde el 7 de octubre, también ha estado abogando por la liberación de rehenes mediante la aplicación responsable de GenAI y promoviendo activamente el uso de GenAI para combatir el odio, la ignorancia y el antisemitismo.
Chen Shmilo, con experiencia en derecho, salud pública y políticas públicas, pasó de trabajar en ONG y el sector público al emprendimiento tecnológico. Graduada de la beca Humphrey de Fulbright en políticas y gestión de salud pública, Shmilo ha sido fundamental en la creación de plataformas para fomentar la innovación dentro del reconocido ecosistema tecnológico de Israel.
La colaboración entre la Asociación de Ex Alumnos de 8200 de Shmilo y la IA Generativa para el Bien de Mlamdovsky Somech tomó forma después de su misión conjunta a Nueva York, organizada por el Instituto de Liderazgo Gesher y el Ministerio de la Diáspora: “Allí conocí a Shiran”, recordó. “Cuando regresamos a Israel después de esta visita, comenzamos a contemplar las consecuencias del odio en línea que vimos en las calles de Nueva York”. Al presenciar de primera mano las graves consecuencias del antisemitismo en línea, intensificado por los eventos posteriores al 7 de octubre, Shmilo y Mlamdovsky Somech estaban decididos a actuar, y nació “Hackear el odio”.
La conferencia Hackear el odio tuvo un único objetivo – investigar las posibilidades más amplias de la IA generativa. El evento fue diseñado para abordar una de las formas más insidiosas de odio en el mundo digital actual: el antisemitismo. “El antisemitismo en línea, como la violencia doméstica, tiene sus raíces en las jerarquías sociales”, dijo Mlamdovsky Somech. «Es un problema generalizado, complejo y en constante evolución, pero al aprovechar la tecnología de IA podemos predecirlo, detectarlo y responder de manera inteligente, generando conciencia, involucrando al público e incluso creando empatía y confianza».
“La tecnología se ha utilizado como arma contra los judíos en todo el mundo”, coincidió Shmilo y añadió: “Nuestro enfoque debe ser igualmente sofisticado. Lo vemos como vemos la ciberseguridad – utilizar la tecnología para detectar, prevenir y contrarrestar el odio es crucial. Necesitamos recuperar esta tecnología y utilizarla para contraatacar”.
Y así, el 10 de septiembre en Tel Aviv, un grupo de diplomáticos, políticos, líderes tecnológicos, expertos en inteligencia artificial y personas influyentes se reunieron para enfrentar la realidad de que el problema del odio en línea, en particular el antisemitismo, trasciende a Israel y afecta a la comunidad global. Mlamdovsky Somech, recuerda su sorpresa y alegría por la cantidad de personas que respondieron a su llamado: “Parece que realmente tocamos una fibra sensible”, dijo, “hay una comprensión generalizada de que nos enfrentamos a amenazas de seguridad global y la gente quiere ayudar”.
Shmilo compartió la cruda realidad del odio en línea en sus comentarios iniciales: “Solo se necesitan 15 segundos para que una persona odie a otra”, y agregó: “Esta lucha es una versión moderna de David contra Goliat. Una vez más, [los israelíes] tienen audacia, creatividad y una firme convicción de que podemos acabar con este mal”.
Shmilo le dijo más tarde al Jerusalem Post: “Hay tantos odiadores en todo el mundo, y no se trata solo de su cantidad”. “Están usando tecnología increíblemente sofisticada para difundir el odio, así que obviamente, nuestra arma debería ser igual de innovadora”. Shmilo afirmó que esta arma solo puede provenir de una fuente – el capital humano. “No podemos participar en esta batalla sin el ecosistema tecnológico israelí y las mentes brillantes que tenemos aquí en Israel y en el mundo judío”, dijo.
Uno de los mensajes centrales de Hackear el odio fue la importancia de la colaboración. Mlamdovsky Somech reforzó el poder de la colaboración con un ejemplo concreto de su experiencia: “Hemos visto de primera mano el poder de la colaboración intersectorial. En una campaña, 28 socios de tres sectores trabajaron juntos. Las organizaciones sin fines de lucro brindaron su experiencia y nos conectaron con las familias y los usuarios afectados.
El sector privado aportó tecnología y el sector público ayudó a patrocinar la campaña y creó colaboraciones estratégicas. Este tipo de colaboración puede elevar una campaña a nivel nacional e internacional”. Este enfoque es crucial en la lucha contra el odio en línea a medida que el antisemitismo se adapta a los nuevos paisajes digitales.
Durante la conferencia, los expertos debatieron sobre las tecnologías de vanguardia diseñadas para contrarrestar estas tendencias. Shmilo explicó la flexibilidad de estas herramientas a través de lo que se conoce como «tecnología de doble uso». «A menudo utilizamos este término para describir la tecnología que puede servir tanto para fines civiles como militares», dijo, «puede venderse a los mercados de defensa o a las organizaciones de seguridad, pero también se puede aplicar en un contexto civil; este tipo de tecnología puede mejorar las soluciones para abordar la desinformación y la información errónea, al mismo tiempo que es fundamental para combatir el antisemitismo en línea».
El primer panel de la conferencia, moderado por Aviv Frenkel, cofundador y director ejecutivo de Moonshot AI, se centró en el importante papel de la IA generativa y otras tecnologías en la lucha contra la desinformación, los deepfakes (o ultra falsos) y el discurso de odio, incluido el antisemitismo. Participaron Rafi Mendelsohn, vicepresidente de marketing de Cyabra; Ella Keinan, fundadora de Bright Mind y creadora de contenido; Shirona Partem, cofundadora de Amplify; y Michael Matias, cofundador y director ejecutivo de Clarify. “Necesitamos amplificar lo bueno”, dijo Mendelsohn durante el panel, “para lidiar con lo malo y descubrir lo falso”.
Pero el papel de la IA en la educación va más allá de prevenir la desinformación, como se abordó en el segundo panel moderado por Inbal Orpaz, consultora e investigadora en innovación estratégica. El panel cambió el debate de ciberseguridad a la tecnología educativa y la financiación.
Los panelistas fueron Ally Golan, socia general de 6Star Capital; la Dra. Yael Richler Friedman, directora pedagógica del Instituto Internacional para la Educación sobre el Holocausto en Yad Vashem; Elad Har Zahav, jefe de desarrollo empresarial en Poalim Tech; y Or Gorodissky, vicepresidente de I+D en D-ID.
Mlamdovsky Somech explicó los desafíos que presenta este cambio. «La educación ya no se trata de un profesor parado frente a una clase con una presentación», dijo, revelando un informe reciente de la UNESCO y el Congreso Judío, que concluyó que la memoria del Holocausto está en riesgo.
«Los estudiantes dependen únicamente de los Modelos extensos de lenguaje o LLMs para obtener información. Los actores maliciosos difunden información errónea en línea y existe una falta significativa de acceso a investigaciones creíbles de las instituciones». Más allá de la desinformación, Mlamdovsky Somech considera que la IA es una herramienta para generar empatía y comprensión emocional, algo que, en su opinión, es vital para combatir el odio. “Necesitamos enseñar a los jóvenes no solo hechos, sino también a sentir y comprender el impacto del odio”.
Eran Yariv, gerente de ingeniería del grupo de socios de Microsoft AI, Israel, ofreció otras ideas fascinantes. “Las palabras escritas siempre han sido una excelente manera de controlar las mentes de las personas”, dijo, y continuó hablando sobre la naturaleza de la focalización personal por parte de la IA y los peligros de la tecnología deepfake.
Yariv aseguró a la audiencia que la tecnología deepfake no es intrínsecamente dañina: «Aquí es exactamente donde el talento israelí puede aprovecharse mejor para contraatacar». (Foto: Idan Marzuk)
En una conclusión esperanzadora, Yariv aseguró a la audiencia que la tecnología deepfake no es inherentemente dañina; cuando se usa de manera responsable, tiene el potencial de ser parte de la solución. “Esta es la esencia de esta cumbre”, dijo, “podemos usar esta misma tecnología para detener a estos actores maliciosos. Aquí es exactamente donde el talento israelí puede aprovecharse mejor para contraatacar”.
Concluyendo con presentaciones de startups enfocadas en combatir el odio en línea, como Brinker y Civilian Intelligence Center, “Hackear el odio” fue un testimonio de cómo Israel se posiciona como líder en la lucha global contra el odio y el antisemitismo, utilizando tecnología de vanguardia como su mayor arma.
En una de las declaraciones más emotivas de la velada, la panelista Ally Golan señaló: “No tenemos nada que perder, excepto todo. Deberíamos hacerlo por nosotros mismos y por nuestros hijos, y hay tanto que podemos hacer; solo necesitamos que estas personas valientes y corajudas digan que sí”.
El período posterior a la conferencia fue testigo de lo que solo podría describirse como el comienzo de un movimiento, el primer paso para abordar las amenazas a la seguridad global. A medida que varias organizaciones se acercan a ellos, Mlamdovsky Somech y Shmilo exploran las alianzas estratégicas adecuadas, llevando adelante este impulso a través de colaboraciones transectoriales y fronterizas. “Juntos”, concluyó Mlamdovsky Somech, “podemos dar forma a un futuro digital más seguro y tolerante. Nuestro trabajo colectivo comienza ahora”.
Este artículo fue escrito en cooperación con la Asociación de Ex Alumnos de 8200 y Generative AI for Good.
Traducción: Consulado General H. de Israel en Guayaquil
Fuente: The Jerusalem Post
