Crecen las sospechas sobre una IA que usa Twitch para banear

El uso de la IA cada vez es más popular y está ayudando a diversos sectores a avanzar a pasos agigantados, al igual que en otros ámbitos está empezando a generar problemas, como en el ámbito artístico o de animación.

No obstante, la IA es revolucionaria y hasta nosotros mismos hemos querido probar a poner una imagen de portada generada por una IA. El caso es que ya es más común esta práctica y Twitch también lo aplica.

Resulta que hay un streamer llamado PaymoneyWubby que "ha pillado" a Twitch comentando temas relacionados con la IA, concretamente lo ha leído en un artículo de un miembro de Twitch en el que habla de una IA llamada AutoMod.

Al parecer existe un moderador oculto en forma de IA en todos los canales de Twitch llamado AutoMod, y lo que hace no es otra cosa que banear automáticamente si detecta ciertos comentarios o palabras.

Por ejemplo, banearía comentarios relacionados con autolesiones, violencia o amenazas, así como contenido sexual y aunque no hemos podido comprobar que esto ocurra, las sospechas crecen en la comunidad angloparlante.

De hecho ha sido Dexerto internacional el primer medio que se ha hecho eco de la noticia, por lo que entendemos que más allá del charco sí que está habiendo discusión con este tema; en la comunidad hispanohablante, no.

Twitch responde al asunto

La plataforma morada nos ha aclarado el tema del AutoMod y su funcionamiento original en Twitch, aclarando que es una IA que no banea ni pone límites de tiempo, además de que hace cumplir las normas comunitarias:

• AutoMod no pone límites de tiempo, ni prohíbe ni silencia a los usuarios de ningún canal; simplemente retiene comentarios que se encuentran dentro de los ajustes de moderación elegidos por el streamer para ser aprobados o denegados por los moderadores del streamer. Puede ser beneficioso que ciertos streamers utilicen una configuración más baja durante ciertos streams.
• Twitch no utiliza AutoMod para hacer cumplir sus normas comunitarias. AutoMod es una herramienta a nivel de canal que los streamers pueden elegir usar para bloquear el chat inapropiado o acosador. Tiene 4 configuraciones con diferentes niveles de filtrado automático de chat.
• AutoMod es solo una herramienta que existe además de las amplias operaciones de seguridad en todo el servicio de Twitch. Priorizamos tener a un ser humano en el proceso de cada aspecto de seguridad en Twitch, para asegurar que los procesos de Confianza y Seguridad se mantengan precisos, justos y por delante de cualquier comportamiento en evolución por parte de posibles malos actores.

Estos detalles se pueden leer aquí, aunque esto no quita que desde cierta parte de la comunidad haya ciertas sospechas sobre este AutoMod, o qué uso le pueden dar ciertos streamers para permabanear.

Sea como sea, la IA llegará tarde o temprano a Twitch, YouTube y otras plataformas de vídeo, ya sea para banear conductas tóxicas, generar anuncios o hasta traducir en directo los contenidos en otros idiomas.

No obstante, que pueda existir una IA que banea permanentemente a usuarios por los comentarios que ponga es grave y peligroso, pues hay muchos chats con bromas, contenido adulto y lenguaje más agresivo.