Hellooo!!
​

Hace unos días tuve el placer de impartir un taller en el Museo de Ciencias de mi universidad, la Universidad de Navarra, sobre cómo utilizar la inteligencia artificial para la divulgación científica, junto con la absoluta crack de IA en España, Carmen Torrijos.

Al terminar, uno de los asistentes me preguntó qué herramientas de detección de IA podía utilizar para vigilar a sus alumnos y pasar la prueba a los textos que leía online.

Me parece que la pregunta está mal formulada ❌.

Pero también he visto que hay muchísima gente en internet preguntando por estos detectores. Así que hablemos de ello.

🔎 ¿Cómo funcionan los detectores de IA?

Antes de nada: ¿Qué es un detector de IA y para qué se utiliza?

Un detector de IA es una herramienta diseñada para discernir si un contenido ha sido creado con IA o no, y se está usando en diversas situaciones:

• Educación: para ver si los estudiantes han hecho sus deberes o han pedido ayuda al amigo GPT.
• Publicación y medios: para asegurarse de que detrás de cada artículo hay un redactor real.
• Reclutamiento: para confirmar que las solicitudes de empleo sean escritas por los candidatos.
• Moderación de contenido: para detectar y eliminar contenido generado por IA, como por ejemplo las reseñas falsas.
• Seguridad: para identificar actividades ilegales o sospechosas en tiempo real.

​

Los detectores de IA se entrenan utilizando grandes conjuntos de datos que incluyen ejemplos tanto de contenido generado por humanos como por IA. A través del machine learning, aprenden a identificar las diferencias sutiles entre estos dos tipos de contenido.

Así, una vez finalizado el entrenamiento, pueden, teóricamente, discernir si un nuevo contenido ha sido generado con IA o no.

Abro melón: los detectores de IA no valen para nada

¿Funcionan realmente los detectores de IA? Aquí viene la sorpresa… no mucho.

De hecho, OpenAI, la empresa desarrolladora de ChatGPT, sacó su propio detector y lo tuvo que quitar porque era un despropósito.

Dan más bandazos que un novato en patinete eléctrico. Falsos positivos y negativos por doquier. Vamos, que no puedes fiarte ni un pelo.

¿Y qué podemos hacer entonces? ¡Cambiar el chip! (nunca mejor dicho 😂).

La IA está aquí para quedarse, como la Wikipedia, los smartphones o los memes de gatos. En lugar de intentar controlarla, ¿por qué no la abrazamos como a un nuevo compañero de trabajo?

El futuro es colaborativo: IA + humano = ❤️

Tenemos que encontrar contextos en los que la colaboración entre personas y máquinas sea enriquecedora, y no algo sancionable. Y esto, necesariamente, implica que muchos escenarios, como la educación tradicional, deben cambiar.

Conclusión: ¿Menos valor por ser generado con IA?

¿Acaso un email tiene menos valor porque lo envías desde un smartphone en lugar de escribirlo a mano y enviarlo por paloma mensajera? Lo importante es el mensaje, no la herramienta.

Y si aun asíiiiiii quieres probar un detector de IA, aquí tienes una: GPT Zero. Aviso: no, esta tampoco funciona del todo.

​
​

Ale, espero haber arrojado un poco de luz al asunto.

Hasta la semana que viene, aguuuuuuur!
​
​

Miren :)