Unitary quiere utilizar IA para automatizar la moderación de contenidos, acaba de recaudar 8 millones de dólares

La startup de moderación para contenido digital Unitary, que pretende evaluar automáticamente el nivel de riesgo y daño de las publicaciones a los usuarios en redes sociales, justamente a través de la Inteligencia Artificial (IA). Su propuesta ha conseguido una recaudación que superó los 8 millones de dólares.

Gracias a una ronda de promoción e inversión dirigida por la firma SongKick de Ian Hogarth, a través de su fondo de capital de riesgo Plural, en el cual también participó la ex ejecutiva de Facebook, Carolyn Everson.

El modelo que pretende imponer Unitary tiene como objetivo automatizar la moderación de contenido publicado en redes sociales, así como en la publicidad y otros medios.

IA para automatizar la moderación

“Las plataformas en línea no pueden manejar la complejidad de moderar estos miles de millones de imágenes, videos y otras publicaciones diarias, mientras que la moderación humana ha demostrado ser ineficaz para manejar el volumen de contenido y ser en gran medida perjudicial para los involucrados”, explicó Sasha Haco, que junto a James Thewlis fundó Unitary.

La también matemática de profesión y CEO de esta startup, trabajó previamente en la paradoja de la información en los agujeros negros durante su doctorado, nada más y nada menos que con el físico teórico más grande de nuestros tiempos, Stephen Hawking, mientras que Thewlis, especialista en visión por computadora, formó parte del equipo de Facebook IA Research.

Desde Unitary indican que las compañías pueden comenzar a utilizar la Inteligencia Artificial para analizar hasta 25.000 cuadros de video por segundo, lo que supera cualquier otro método de moderación conocido, más allá de la censura.

Para Hogarth, “Sacha y James han elegido abordar uno de los problemas más difíciles de la sociedad moderna y estamos asombrados por su intelecto y determinación (…) A medida que más y más cámaras estén conectadas a Internet, necesitaremos herramientas cada vez más inteligentes para organizar ese contenido y dificultar la operación de los malos actores”.

¿Qué hace exactamente Unitary?

Unitary utiliza la IA para ‘leer’ el contexto en el que los videos son generados y publicados por los usuarios en redes sociales y resalta el contenido que, a juicio de los creadores de esta aplicación, podría ser dañinos para otros usuarios, así como para anunciantes. Todo esto de manera automatizada y sin la necesidad de un moderador humano presente en la herramienta.

Sus fundadores aseguran que la tecnología que están usando es capaz de distinguir entre un video que glorifica un discurso de odio y un documental que tiene como objetivo central crear conciencia sobre dicho discurso, por solo citar un ejemplo.

Referente al odio, desde Unitary aseveran que su aplicación afina sus modelos para identificar el contenido dañino en función de las políticas específicas de cada cliente. Un ejemplo que dieron fue el siguiente: si un cliente sube un video a YouTube, Instagram y Facebook, Unitary verificará las pautas de cada plataforma para medir qué tan dañino es el contenido según los parámetros de cada una.

Ahora, si el contenido es marcado como dañino por Unitary, el cliente deberá tomar las medidas correspondientes.

Para combatir el odio en redes sociales está la IA

Un reciente estudio de Kepios indica que casi el 60 % de la población mundial usaba redes activamente en enero de 2023, esto quiere decir que alrededor de 4.760 millones de personas tienen acceso, cargan videos y contenido en estas plataformas, lo que hace evidente el reto que supone mantener estos espacios libres de expresiones de odio.

Otra investigación, esta vez dirigida por la BBC, reveló que el odio estaría prosperando en la red social Twitter desde que el multimillonario Elon Musk se hiciera cargo.

Esto a las claras abre las puertas para que nuestros desarrollos avances en soluciones para este problema, cuestión que puede y debe combatirse con la IA. De hecho, un informe tomado por Unitary indica que el mercado de la moderación de contenido podría ostentar un valor aproximado de 32.000 millones de dólares en pocos años.

¿Cuál es el siguiente paso?

Según lo explicado por el equipo de cofundadores de Unitary, estos más de 8 millones de dólares recaudados pasarán a ser utilizados para aumentar la plantilla, firmar asociaciones previamente habladas, algunas nuevas, y continuar en la labor de desarrollo de otra herramienta, esta vez de código abierto llamada Detoxify, que se centra en detectar discursos de odio escritos en las secciones de comentarios de las plataformas web.

Pero ¡Ojo! Unitary no es la única startup que está dando el salto al mercado de la moderación usando la Inteligencia Artificial como herramienta primaria, Checkstep, en Reino Unido, está haciendo lo propio, también dándole cabida a su personal interno para moderar las comunidades online. Para octubre de 2022 había recaudado más de 5 millones de dólares.

Otro ejemplo de esto es Bodyguard.ai, firma nacida en Francia que utiliza una herramienta diseñada a base de IA para vigilar textos y alertar sobre el contenido que considera dañino en la web, específicamente el acoso cibernético y los discursos de odio. Según Dealroom, esta iniciativa logró recaudar poco más de 9 millones de euros el año pasado.

“En Unitary estamos comprometidos a hacer de Internet un lugar más seguro para todos y, con el apoyo de inversionistas como Plural, que entienden la complejidad de desarrollar y escalar tecnología profunda, podemos ver una ruta clara para lograr un impacto en este problema creciente que nos afecta a todos”, finalizó diciendo Sasha Haco.

¿Quieres invertir en Inteligencia Artificial?

La IA es uno de los desarrollos más apasionantes del momento, por lo que si te interesa diversificar tu portafolio con alguna de las empresas de mayor renombre en este mercado, te recomendamos hacerlo a través de eToro, uno de los brokers más confiables, seguros y serios de la industria.

Ahora, si quiere ampliar un poco más tu visión inversora, nuestros analistas han desarrollado un listado con 15 proyectos que podrían dar saltos exponenciales en el mercado de los activos digitales este mismo año ¿Te interesa? ¡Vamos!