TENDENCIAS

Facebook desarrolla IA para detectar vídeos con desnudos o violencia

Facebook está trabajado en el desarrollo de la Inteligencia Artificial para monitorizar el contenido de vídeos en directo en Facebook Live y comprobar si se trata de ‘contenido inapropiado’, según señaló a la agencia Reuters, Joaquín Candela, director de aprendizaje automático de la compañía.

Este nuevo protocolo consistirá en un algoritmo que ‘detecte la desnudez, violencia o cualquiera de las cosas que no concuerdan con nuestra política actual’. La red social de Mark Zuckerberg ya hizo un ensayo de este algoritmo para detectar vídeos de contenido extremista y eliminarlos el pasado mes de junio. Además, Facebook ha confirmado que analizará de forma más exhaustiva la detección de la publicación de noticias falsas o poco contrastadas en el feed de noticias.

facebook live-mediatrends2

¿Como utilizará Facebook la Inteligencia Artificial?

Según Candela, la IA para Facebook Live todavía está en fase de investigación y pruebas, pero tiene dos retos importantes: uno que el algoritmo de visión por ordenador tiene que ser rápido, y el otro es que debe entrenarse para alertar sobre las cosas que los humanos consideren incorrectas y que, a su vez, coincidan con las políticas de Facebook.

En este sentido, nos preguntamos, ¿cuál es el contenido inadecuado para la red social? Yann LeCun, director de investigación en IA de Facebook, no ha especificado a Reuters todos los posibles temas de ‘censura’, pero sí ha señalado que no chocarán con la política de Facebook. Por tal motivo, entre los temas más sensibles se encontrarán los desnudos, escenas violentas e insultos. Y, además, la red social deberá mantener un equilibrio entre la censura, libertad de expresión, y veracidad del contenido.

Sin embargo, la determinación de si un comentario o vídeo es ofensivo debe de analizarse con el  ‘contexto humano’. Esto significa que la Inteligencia Artificial de Facebook está desarrollando una ‘máquina’ que conjugue el razonamiento humano y el contexto.

En definitiva, la red social sigue avanzando en su política de alerta y eliminación de contenido ofensivo y en su lucha por ganarle terreno a la  veracidad. Y con la Inteligencia Artificial en pleno desarrollo para entender el comportamiento humano en Internet.

HACE 2 AÑOS