------------------------------------------
Amenazas de los textos generados por IA
19 ene 2023
------------------------------------------
Todo el mundo está inquieto, revolucionado por la IA
últimamente y específicamente por ChatGPT. El hecho de
que fuera liberado nos ha permitido a muchos experimentar y
sorprendernos con sus aciertos y sus fallos.
Leo en Schneier on Security [1] el enlace a un documento que
explica extensamente las amenazas y métodos de detección ante
los avances en generación de lenguaje natural.
El documento en cuestión [2] supone según sus autores
la revisión más completa de los métodos de detección
informáticos hasta la fecha. También proporciona guías para
trabajos futuros.
Además ayer mismo Nature publicaba [3] un artículo diciendo
que al menos cuatro artículos citaban a ChatGPT como coautor
de trabajos de investigación. En el interesante artículo
entrevistan a varios editores a los que preguntan por la
conveniencia o no de incluir a la IA como coautor. El consenso
general parece ser que no pues "la máquina" no puede aceptar
o rechazar las responsabilidades que se adquieren sobre la
veracidad de un trabajo al ser publicado.
En todo caso y *por ahora* no parece que la parte más profunda
de una investigación pueda ser escrita por una IA.
Creo que nos queda mucho más que leer y escribir sobre el
tema en los próximos años ¿cómo haremos para distinguir
personas y máquinas? ¿de verdad puede llegar a ser el 90% del
contenido de lo que leemos en Internet generado por programas?
[1]:
https://www.schneier.com/blog/archives/2023/01/threats-of-machine-generated-text.html
[2]:
https://arxiv.org/pdf/2210.07321.pdf
[3]:
https://www.nature.com/articles/d41586-023-00107-z
