La investigación muestra la exhibición de Bing, sugiriendo pornografía infantil

La investigación muestra la exhibición de Bing, sugiriendo pornografía infantil

Bing Tiene un problema con la pornografía infantil, según ha descubierto una nueva investigación. Un informe realizado por la firma de seguridad en línea AntiToxin a instancias de TechCrunch encontró que Bing mostraría fácilmente pornografía infantil en los resultados de búsqueda de imágenes. Además, el motor de búsqueda sugeriría términos relacionados para buscar.

De acuerdo con el informe, AntiToxin descubrió que Bing mostraría las imágenes ilegales cuando se le pidieran algunos términos de búsqueda, incluidos "niños pornográficos" y "niños de familias desnudas". Los investigadores también encontraron que Bing sugeriría términos de búsqueda relacionados, específicamente al buscar imágenes relacionadas con el servicio de video chat en línea Omegle.

La función "Imágenes similares" de Bing también brindó imágenes ilegales adicionales relacionadas con los términos de búsqueda originales.

En una declaración a TechCrunch, Jordi Ribas, vicepresidente de productos de Bing y AI de Microsoft, respondió:

Claramente, estos resultados fueron inaceptables según nuestras normas y políticas, y apreciamos que TechCrunch nos haya informado. Actuamos de inmediato para eliminarlos, pero también queremos evitar cualquier otra violación similar en el futuro. Estamos enfocados en aprender de esto para poder realizar cualquier otra mejora necesaria.

A un equipo de ingeniería de Microsoft se le asignó la tarea de prohibir y limpiar los términos de búsqueda y los resultados encontrados en el informe, y la compañía está trabajando para prohibir búsquedas similares. La investigación adicional realizada por AntiToxin, sin embargo, mostró que algunos términos de búsqueda todavía devuelven imágenes ilegales.

En el futuro, Microsoft le dijo a TechCrunch, la compañía planea agregar más categorías para que los usuarios informen a través del marcado de contenido. En respuesta a una pregunta acerca de cómo ocurrió el problema, un portavoz de Microsoft le dijo a TechCrunch: "Lo indexamos todo, al igual que Google, y hacemos el mejor trabajo posible de detección. Utilizamos una combinación de PhotoDNA y moderación humana, pero eso no funciona. No nos hagamos perfectos cada vez. Estamos comprometidos a mejorar todo el tiempo ".

Sin embargo, no hay duda de que esto es un fallo perturbador por parte de Bing. Como se señala en el informe, búsquedas similares realizadas con Google "no produjeron imágenes tan claramente ilegales ni tanto contenido concerniente como lo hizo Bing".

Deja un comentario

Menú de cierre