Nuestro compromiso de fomentar una comunidad de juego segura, acogedora e inclusiva está impulsado por las inversiones e innovaciones continuas que realizamos para proteger a los jugadores y promover el juego positivo. Hoy publicamos nuestro cuarto Informe de Transparencia de Xbox, que demuestra nuestros avances en la promoción de la seguridad de los jugadores y nuestro compromiso con la transparencia.
En Xbox, seguimos dedicados a promover la aplicación responsable de la IA para amplificar nuestra experiencia humana en la detección de toxicidad potencial. Tenemos una oportunidad única de crear innovaciones de seguridad líderes en la industria que protejan mejor a nuestras comunidades, aprovechando las inversiones de Microsoft que combinan los últimos avances en IA generativa con experiencia y juicio humanos.
Nuestro enfoque para aprovechar la IA para categorizar e identificar contenido perjudicial se guía por el Responsible AI Standard de Microsoft y permite a nuestros moderadores humanos centrarse en los daños más complejos y matizados, asegurando que nuestras acciones para proteger a la comunidad de jugadores sean precisas, consistentes y justas.
Las primeras inversiones respaldadas por IA incluyen:
- Auto Labeling: Ayuda a clasificar texto conversacional identificando palabras o frases que coinciden con criterios y características de contenido potencialmente perjudicial. Este enfoque utiliza IA para analizar el contenido de texto informado y ayuda a los moderadores de la comunidad a clasificar rápidamente los informes falsos para que los esfuerzos de moderación humana puedan centrarse en el contenido más crítico.
- Image Pattern Matching: Impulsado por bases de datos avanzadas y técnicas de comparación de imágenes, permite una rápida eliminación de contenido perjudicial conocido y la identificación de imágenes tóxicas emergentes.
Entre las conclusiones clave del informe se encuentran:
- Nuevas formas efectivas de proteger a los jugadores: El comportamiento de los jugadores en el chat de voz de Xbox ha mejorado significativamente desde el lanzamiento de nuestra nueva función de informes de voz. La función ha sido eficaz al permitir a los jugadores informar comportamientos verbales inapropiados con un impacto mínimo en su juego. Desde su lanzamiento, se han capturado 138 000 registros de voz utilizando nuestro sistema “capturar ahora, informar más tarde”. Cuando esos informes resultaron en un strike de cumplimiento, 98 % de los jugadores mostraron una mejora en su comportamiento y no recibieron controles posteriores. Además, hemos actualizado nuestro enfoque proactivo para evitar de manera más efectiva que contenido perjudicial llegue a los jugadores (3.2 millones de líneas de texto más que el último informe, o 67%), permitiendo a los jugadores participar de manera positiva. Continuaremos invirtiendo en funciones que protejan y mejoren la experiencia del jugador de Xbox.
- La comprensión de las medidas de cumplimiento permiten una comunidad más segura: El Sistema de medidas disciplinarias basado en strikes se lanzó el año pasado para promover el juego positivo y al mismo tiempo ayudar a los jugadores a comprender la gravedad de una infracción. Desde su lanzamiento, 88 % de aquellos que recibieron un strike de cumplimiento no participaron en actividades que violaran nuestros Estándares de la comunidad para recibir otra aplicación de cumplimiento. También redujimos la duración de las suspensiones en general para infracciones menores. De las ejecuciones que anteriormente habrían resultado en una suspensión de 3 días o más, 44% recibió una duración reducida. La combinación de estos resultados muestra que la mayoría de los jugadores optan por mejorar su comportamiento después de una sola suspensión, incluso cuando ésta es corta.
- Bloquear cuentas no auténticas antes de que tengan impacto: Constantemente invertimos en la detección de cuentas no auténticas, lo que nos ha permitido bloquear rápidamente muchas de ellas tan pronto como se crean, evitando que afecten a nuestros jugadores. Nuestros métodos mejorados impidieron que se utilizaran millones de cuentas no auténticas tan pronto como se crearon y han llevado a una disminución en el número de controles proactivos sobre cuentas no auténticas por primera vez en dos años, con una disminución de los 16.3 millones en el último informe a 7.3 millones.
Fuera del Informe de Transparencia, nuestro equipo continúa trabajando estrechamente para impulsar la innovación en seguridad y mejorar la experiencia de nuestros jugadores:
- Lanzamiento del kit de herramientas de seguridad familiar de Microsoft: Microsoft entiende que los padres y cuidadores están ocupados y que el panorama tecnológico sigue evolucionando. Este kit de herramientas proporciona orientación sobre cómo aprovechar las funciones de seguridad y la configuración de seguridad familiar de Microsoft para respaldar y mejorar la crianza digital, además de orientación para las familias que buscan navegar juntas por el mundo de la IA generativa. Asimismo, hemos incluido enlaces a una selección de recursos informativos ya creados para padres, como Family Online Safety Institute’s How To Be A Good Digital Parent Toolkit.
- Encuesta anual global sobre seguridad en línea de Microsoft: Esta encuesta busca comprender mejor el ecosistema digital y las experiencias individuales en línea. Compartimos nuestros resultados públicamente para que otros puedan beneficiarse de los conocimientos mientras nos esforzamos colectivamente por crear un entorno en línea más seguro. La encuesta analiza cómo personas de todas las edades perciben las oportunidades y riesgos que plantea la tecnología.
- Construyendo una mejor comunidad en línea con Good Game de Minecraft Education: Esta reciente incorporación a la colección CyberSafe de mundos de aprendizaje inmersivos es una aventura basada en historias destinada a ayudar a los jugadores de 8 a 18 años a comprender las responsabilidades, herramientas, respuestas y estrategias que fomentan la empatía y permite interacciones saludables en línea. Los usuarios de Minecraft Education pueden encontrar CyberSafe: Good Game en la biblioteca de lecciones del juego. El mundo también está disponible de forma gratuita para los jugadores de Minecraft Bedrock en Minecraft Marketplace.
Junto con nuestros jugadores, continuamos construyendo una comunidad sólida y solidaria para todos, libre de intimidaciones y distracciones. Estamos dedicados a mejorar nuestras funciones de seguridad para fomentar nuestra conexión con los jugadores a través de comentarios e informes dentro del juego, y para aplicar capas de protección de manera más efectiva. Las soluciones de IA que lanzamos son parte del viaje que estamos tomando para construir un entorno más seguro y acogedor para todos, porque todos merecen jugar cómodamente y experimentar la alegría que los juegos tienen para ofrecer. Gracias por participar en este viaje con nosotros.
