Open AI creó una marca de agua para textos generados por ChatGPT que es efectiva en el 99,9% de los casos. Sin embargo, está analizando su lanzamiento debido a que presenta “complejidades” y su impacto podría ir “más allá” del ecosistema de la marca.
Fuentes de la compañía han adelantado a The Wall Street Journal que el proyecto ha estado sumido en un debate interno. Durante “aproximadamente dos años” llevan planteándose ponerlo a disposición de los usuarios.
En concreto, habría hecho un “método técnicamente prometedor” para detectar texto elaborado con ChatGPT. Aunque Open AI considera que este “tiene riesgos importantes” que están sopesando mientras buscan otras alternativas.
Este periódico recordó que ChatGPT funciona con un sistema de Inteligencia Artificial (IA) que predice qué palabra o parte de palabra, conocido como token, debe ser el siguiente en una oración.
Quieren evitar plagios con ChatGPT
Esto significa que la herramienta “antitrampas” cambiaría la forma en la que otras soluciones de detección seleccionan los token. Unos cambios introducirían un patrón de marca de agua imperceptibles para el ojo humano, pero sí detectables por la tecnología de Open AI.
Este herramienta, que tiene una efectividad del 99,9% cuando ChatGPT ha creado suficiente texto nuevo, está generando dudas a la compañía. Actualmente valora su lanzamiento debido a una serie de complejidades que presenta su uso.
Esto, porque las marcas de agua se pueden borrar mediante técnicas simples, como hacer que Google traduzca el texto a otro idioma. Después se vuelva a traducir al idioma original o el ‘chatbot‘ añade emojis al texto y después los elimine manualmente.
Debido a estas complejidades, creen que decir quién puede usar esta herramienta de detección de ChatGPT sería un desafío.
Esto porque si tuvieran acceso a ella pocas personas no tendría ninguna utilidad. Al contrario, si se le ofrece a muchas, los actores maliciosos podrían descifrar la técnica de marca de agua de Open AI.
La preocupación de Open AI es alta
De esa manera, se valora la posibilidad de proporcionar el detector directamente a educadores o empresas externas. Lo harían para que ayuden a las escuelas a identificar artículos escritos por IA y trabajos plagiados.
Antes de tomar una decisión, Open AI hizo un sondeo entre los usuarios de ChatGPT para conocer su opinión sobre este detector. Allí ha descubierto que el 69% de ellos considera que esta tecnología daría lugar a acusaciones falsas de uso de IA.
De hecho, casi el 30 por ciento dijo que usarían menos su ‘chatbot’ si se implementaran estos cambios.
A la compañía también le preocupa que esta herramienta pueda dañar la calidad del texto hecho por ChatGPT. Esto, a pesar de que a principios de este año hizo una prueba en la que descubrió que las marcas de agua no afectaban el rendimiento del ‘chatbot’.
La compañía publicó una actualización en su blog en el que indica que se encuentra investigando soluciones de texto de ChatGPT. También que sus equipos desarrollan un método de marca de agua “muy preciso y eficaz” contra la manipulación de contenidos.
También comenta que este sistema “es menos robusto contra la manipulación globalizada”. Además, que “tiene el potencial de afectar desproporcionadamente a algunos grupos”.
Por ejemplo, podría estigmatizar el uso de la IA como una herramienta de escritura útil para hablantes no nativos de inglés. Aún se espera qué decisión tome Open AI sobre la medida para ChatGPT.
Los menores españoles han continuado apostando por TikTok como su red social preferida, ya que invirtieron más de hora y media al día de media (94 minutos) en consultar contenido durante 2023.
Además, la Inteligencia Artificial (IA) también ha irrumpido como una gran novedad entre los jóvenes el pasado año, alcanzando un 21,4 por ciento de usuarios que accedieron al servicio de OpenAI, ChatGPT.
Así lo ha reflejado el estudio realizado por la aplicación multiplataforma de seguridad ‘online’ Qustodio ‘Nacer en la era digital: La generación de la IA’.
El estudio recoge las principales tendencias y hábitos digitales de los usuarios menores de edad a nivel global durante el año 2023. La red social TikTok es la preferida.
Según los resultados del estudio, para el que se han entrevistado a 400 mil familias con menores de entre 4 a 18 años, procedentes de España, Francia, Reino Unido, Estados Unidos y Australia, los jóvenes continúan pasando una media de cuatro horas al día frente a las pantallas fuera de las aulas, el mismo tiempo que en el 2022.
Asimismo, el pasado año los menores emplearon gran parte de su tiempo a las redes sociales.
Red social TikTok es la favorita
Tanto es así que España se ha consolidado como el país en el que más tiempo las usan, con una media de 59 minutos al día frente a los 52 minutos de media a nivel global.
En este marco, los jóvenes españoles continúan situando a TikTok como su red social favorita con una media de más de hora y media diaria dedicada a esta plataforma.
No obstante, con respecto a 2022, su uso a disminuido dos minutos, pasando de 96 a 94 minutos diarios.
Por su parte, el resto de redes sociales continúan aumentando su tiempo de uso entre los menores.
En el caso de Instagram, la segunda más utilizada, ha aumentado su media de uso con 71 minutos al día, es decir, un 27 por ciento más que en 2022.
Por detrás de estas, se sitúa Facebook con 23 minutos al día, X (antigua Twitter) con 11 minutos diarios, Pinterest (10 minutos al día) y BeReal (9 minutos al día).
En este contexto y ante un uso tan elevado de las redes sociales, desde Qustodio han subrayado la importancia de que los padres y responsables de los menores ayuden a los jóvenes a “entender las diferencias entre el mundo real y el digital“.
También, han indicado que es necesario hacer comprender cómo funcionan estas plataformas y crear “un espacio positivo”.
Al igual que son las más utilizadas, las más bloqueadas por los padres a través de las herramientas de Qustodio son Instagram, X, BeReal y Facebook. También aparece la red social TikTok,
Inteligencia artificial es la novedad entre los menores
Otro de los puntos a resaltar del estudio es la irrupción de la IA como novedad entre los menores en 2023.
Tal y como ha explicado el CEO de Qustodio, Eduardo Cruz, “cada vez es más evidente que los usuarios finales, incluidos los niños, están experimentando con estas tecnologías”.
En este sentido, el estudio también ha recogido el uso de la IA por parte de los menores que, en el caso de España, alcanza un 21,4 por ciento de usuarios que han utilizado el chatbot desarrollado por OpenAI, ChatGPT.
No obstante, por el momento, se trata de un uso moderado, ya que se ha registrado una media de seis minutos al día invertidos en esta plataforma.
A nivel global, alrededor del 20 por ciento de los jóvenes han accedido a OpenAI durante el 2023.
Tanto es así que, según ha subrayado Qustodio, se ha convertido en la 18º web más visitada del año.
Continúa el reinado de YouTube
En cuanto a las plataformas de contenidos de video en ‘streaming’, los usuarios también aumentaron su tiempo de uso en España un 30 por ciento, pasando de 30 a 39 minutos diarios.
Igualmente, entre la variedad de plataformas de ‘streaming’ YouTube continúa siendo la favorita, con un 71 por ciento de popularidad y una media de uso diaria de 44 minutos.
Estas cifras se mantienen respecto al 2022.
Por detrás de YouTube se encuentra Netflix que en 2023 disminuyó su tiempo de uso de 41 a 38 minutos al día, Disney Plus, que ha pasado de 39 a 34 minutos diarios, Amazon Prime, de 40 a 33 minutos de media, y Movistar Plus, de 29 a 26 minutos al día.
En el caso de Twitch, aunque sigue siendo la plataforma menos utilizada, en 2023 ha conseguido aumentar su tiempo de uso pasando de 18 a 22 minutos al día.
Igualmente, esta destaca entre las plataformas más bloqueadas por los padres.
Según ha apuntado Cruz, el bloqueo se puede deber a que incluye contenidos con transmisiones que pueden durar horas y que, de alguna manera, “generan algún tipo de fricción en el hogar”.
Los menores se comunican por WhatsApp y Snapchat
A la hora de comunicarse, los jóvenes españoles han continuado escogiendo WhatsApp como su principal plataforma en 2023, con uso medio diario de 27 minutos al día.
Tras ello, ha destacado Snapchat como la segunda ‘app’ más usada (23 minutos), Discord (17 minutos), Microsoft Teams (9 minutos) y Skype (8 minutos).
Cabe destacar que, a nivel general, los menores han utilizado menos las ‘apps’ de comunicación durante el pasado año, disminuyendo un 12,5 por ciento su uso con 21 minutos diarios, en vez de 24 minutos de media.
Caída de los videjuegos y de las platoformas educativas
A la hora de jugar a videojuegos, los menores han mostrado un menor interés, ocasionando una caída del ocho por ciento en su uso respecto a 2022.
En España, el videojuego preferido es Roblox que triplica el tiempo de uso del siguiente título más usado, Brawl Stars (30 minutos diarios).
Respecto a las plataformas educativas, su uso también descendió en 2023, con una caída del 14 por ciento a nivel global.
Esto se demuestra en que, por ejemplo, los menores españoles solo las utilizan durante seis minutos al día.
No obstante, Smartick continúa como la herramienta educativa más usada y es la que más eleva el tiempo de uso con media hora diaria.
Qustodio también ha destacado el uso frecuente por parte de estos usuarios de plataformas como Kahoot!, Duolingo y Photomath, sobre todo relacionado con el aprendizaje de idiomas y de materias escolares.
Padres frente a la tecnología y red social TikTok
Con todo ello, las preocupaciones de las familias durante el año 2023 han continuado estando relacionadas con los posibles riesgos que conlleva el uso de la tecnología, como es la exposición de los jóvenes a contenidos para adultos o pornografía, la aparición de “depredadores en línea” o usuarios que se hagan pasar por menores para engañar a través de redes sociales, así como la adicción a Internet.
En este marco, se ha de tener en cuenta que el 76 por ciento de los padres, ha instalado aplicaciones de control parental porque cree que, de esta manera, ayuda al menor a tener hábitos y rutinas saludables frente a las pantallas.
Siguiendo esta línea, el 87 por ciento de los encuestados ha asegurado hablar de forma habitual con sus hijos sobre sus hábitos y comportamientos en línea.
Por otra parte, otra de las medidas más utilizadas por los padres ha sido el “castigo sin pantallas”, ocho de cada diez padres ha afirmado haber prohibido el uso de dispositivos a sus hijos a modo de castigo.
Igualmente, un tercio de las familias ha señalado que intenta que los menores utilicen las pantallas “solo en las zonas comunes” del hogar.
Finalmente, el estudio también refleja que el 68 por ciento de las familias cree que los 18 años es la edad idónea para permitir a los usuarios utilizar Internet y las redes sociales libremente, sin ningún tipo de control parental.
Frente a ello, un quince por ciento de los entrevistados considera que esta edad debería reducirse a los 16 años para dejar de supervisar la actividad en línea.
