Con el trend de fotos de los años 80, que son generadas mediante herramientas de inteligencia artificial (IA), algunos usuarios se han preguntado: ¿qué es lo que pasa cuando subo mi foto a ChatGPT?

En los últimos años, herramientas de IA como esta, Gemini o Grok se han popularizado en el día a día de muchos usuarios; sin embargo, no todos revisan cómo se usa la información que le brindan a estos modelos.

¿Subiste tu foto a ChatGPT para hacer un trend? Esto pasa con tu información

Hace algunos meses, con otro trend de generación de fotos con IA, el portal especializado en tecnología Wired alertó sobre las posibles consecuencias de subir voluntariamente fotos a chats de inteligencia artificial. En un artículo, explicó que estos datos pueden ser utilizados para entrenar a los modelos generativos.

Tom Vazdar, responsable del área de ciberseguridad del Open Institute of Technology, explicó al portal que, con la foto, podemos entregar metadatos “como la hora en que se tomó la fotografía y las coordenadas GPS del lugar donde fue capturada”.

“Debido a que plataformas como ChatGPT funcionan mediante conversaciones, también existe información sobre el comportamiento, como lo que escribiste, qué tipo de imágenes solicitaste, cómo interactuaste con la interfaz y la frecuencia con la que realizaste esas acciones”, agregó.

Vazdar califica la entrega de esta información como “una mina de oro para entrenar modelos generativos”, pues gracias a la subida de imágenes, reciben “enormes cantidades de datos faciales nuevos y de alta calidad provenientes de personas de distintas edades, etnias y regiones geográficas”.

Camden Woollven, director de marketing de productos de inteligencia artificial de la empresa de gestión de riesgos GRC International Group, le explicó a Wired que, además, las imágenes en alta resolución dan detalles sobre “el fondo, otras personas, objetos que estén en tu habitación y cualquier elemento legible, como documentos o identificaciones”.

Jake Moore, asesor global de ciberseguridad de la empresa de solucionenes de antivirus y seguridad en internet ESET, explicó al portal que cualquier dato, indicación o solicitud ayuda a enseñar y perfeccionar cada vez más el algoritmo con que funciona ChatGPT.

Esto dice ChatGPT sobre cómo usa las imágenes y otros datos que subes a su plataforma

De acuerdo con sus políticas de uso, en el apartado Cómo se utilizan sus datos para mejorar el rendimiento de los modelos, se explica que “ChatGPT (...) aprende y mejora con las conversaciones que las personas tienen con él”, incluyendo las imágenes que le das a la plataforma. “Podemos usar sus prompts, las respuestas del modelo y otro contenido, como imágenes y archivos, para mejorar el rendimiento del modelo”, dice el apartado Preguntas frecuentes sobre el uso de datos en los servicios para consumidores.

“Conservamos ciertos datos de tus interacciones con nosotros, pero tomamos medidas para reducir la cantidad de información personal en nuestros conjuntos de datos de entrenamiento antes de que se utilicen para mejorar y entrenar nuestros modelos. Estos datos nos ayudan a comprender mejor las necesidades y preferencias de los usuarios, lo que permite que nuestro modelo sea más eficiente con el tiempo”, explica la plataforma.

De acuerdo con OpenAI, pueden compartir la información con “un grupo selecto de proveedores de servicios de confianza” que les ayudan a prestar servicios y bajo “estrictas obligaciones de confidencialidad y seguridad”. “No compartimos el contenido de tus chats con fines de marketing o publicidad”, explican.

Además de mejorar su modelo de IA, las razones por las que se puede revisar tu contenido con miembros de OpenAI o sus proveedores son para “investigar usos indebidos o incidentes de seguridad; prestarte asistencia si nos haces alguna consulta sobre tu cuenta o solucionar problemas que afecten a la experiencia de uso del producto; (y) gestionar asuntos legales”.

Según el apartado Preguntas frecuentes sobre controles de datos, puedes desactivar el uso de tus datos para el entrenamiento del modelo de IA en el apartado “Controles de datos” de la configuración y desactivando la opción “Mejorar el modelo para todos”. Además, explican que, con el uso de chats temporales, la información en las conversaciones no se usa para entrenar a ChatGPT.

De acuerdo con Vazdar, para proteger los datos biométricos se puede desactivar el historial de chats, además de que recomienda subir imágenes modificadas con filtros o, en su defecto, usar un avatar digital en vez de una imagen real; también considera importante borrar los metadatos de las imágenes y evitar subir fotos grupales o con otros elementos de fondo.

View this post on Instagram