Discord prohíbe los servidores de citas para adolescentes y el intercambio de CSAM generado por IA

Hubo una discordia actualizado su política está destinada a proteger a los niños y jóvenes en su plataforma después informes Resulta que los depredadores están usando la aplicación para crear y distribuir materiales de abuso sexual infantil (CSAM), así como para preparar a los jóvenes. La plataforma ahora prohíbe expresamente CSAM fotorrealista generado por IA. Contar el poste de washington Según se informó recientemente, el auge de la IA generativa también ha dado lugar a una explosión de imágenes realistas con representaciones sexuales de niños. La publicación tuvo sierra habla sobre el uso de Midjourney, una IA generativa de texto a imagen en Discord, para crear imágenes inapropiadas de niños.

Además de prohibir el MASI generado por IA, Discord ahora también prohíbe por completo cualquier otro tipo de texto o contenido multimedia que sexualice a los niños. La plataforma también prohibió los servidores de citas para jóvenes y prometió tomar medidas contra los usuarios que se comportan de esta manera. Un pasado noticias de la nbc La investigación encontró que los servidores de Discord se publicitaban como servidores de citas para jóvenes con participantes que solicitaban fotos de desnudos de menores.

Los usuarios adultos han sido procesados ​​​​anteriormente por manipular a niños en Discord, y hay redes criminales que han extorsionado a los usuarios menores de edad para que envíen imágenes sexuales de ellos mismos. Una prohibición total de los servidores de citas para jóvenes podría ayudar a reducir el problema. Discord también incluyó una línea en su política, que establece que los adolescentes mayores que se encuentren acosando a adolescentes más jóvenes «serán investigados y tratados bajo (su) Política de conducta sexual inapropiada en niños y arreglos».

Además de actualizar sus reglas, Discord lanzó recientemente una herramienta Family Center que los padres pueden usar para monitorear la actividad de sus hijos en el servicio de chat. Si bien los padres no pueden ver el contenido real de los mensajes de sus hijos, la herramienta de suscripción les permite ver de quién son amigos sus hijos y con quién están hablando en la plataforma. Discord espera que estas nuevas medidas y herramientas ayuden a mantener seguros a sus usuarios menores junto con sus medidas anteriores, que incluyen el escaneo activo de imágenes cargadas en su plataforma usando PhotoDNA.