Cómo detectamos las infracciones

Nuestros principios

Porn Works AI sigue estrictas directrices éticas y buenas prácticas para garantizar que las tecnologías de IA se utilicen de forma segura, respetuosa y protectora de los derechos humanos.

Cualquier violación de nuestra Condiciones de uso se remitirá rápidamente a las fuerzas del orden cuando proceda.

Porn Works AI utiliza sus propios modelos de IA preentrenados para detectar menores, violencia y otros contenidos prohibidos para los usuarios. contenido en cualquier imagen o vídeo generado, bloqueándolo inmediatamente. Combinando la detección por IA con la revisión humana manual, bloqueamos eficazmente cerca de 100% de contenidos inadecuados o ilegales.

Múltiples niveles de moderación

Capa 1: Filtrado de palabras clave

Nuestra primera línea de defensa es un amplio diccionario de palabras y frases restringidas. Esta capa detiene rápidamente los intentos de generar contenidos inapropiados o nocivos antes de que lleguen a etapas posteriores de procesamiento.

Capa 2: Análisis de los contenidos generados

Dado que los modelos de generación de IA pueden producir resultados impredecibles incluso a partir de indicaciones seguras, no podemos confiar únicamente en la entrada de texto. Por ello, utilizamos varios modelos de visión y lenguaje (VLM) para analizar las imágenes y los vídeos finales. Estos modelos proporcionan una comprensión más profunda del contenido y nos ayudan a detectar infracciones que, de otro modo, eludirían los filtros a nivel de indicación.

Nivel 3: Revisión humana

Por último, nuestro equipo de moderación realiza comprobaciones manuales de los contenidos marcados. Para apoyar su trabajo, les proporcionamos paneles especiales que les permiten analizar el comportamiento de los usuarios, los niveles de confianza y los patrones de actividad. Esto permite a los moderadores tomar decisiones con conocimiento de causa, aplicar el contexto cuando sea necesario y detectar los abusos con mayor eficacia. El juicio humano sigue siendo esencial para los casos extremos en los que se requieren matices o sensibilidad cultural.