Etiquetado de datos
Unha investigación da revista TIME revelou que, para construír un sistema de seguridade contra contidos tóxicos (por exemplo, abuso sexual, violencia, racismo, sexismo, etc.), OpenAI empregou traballadores kenyanos subcontratados que gañaban menos de 2 dólares por hora para etiquetar contidos tóxicos. Estas etiquetas utilizáronse para adestrar un modelo para detectar tales contidos no futuro. Os traballadores subcontratados estiveron expostos a contidos tan tóxicos e perigosos que describiron a experiencia como "tortura". O socio de subcontratación de OpenAI foi Sama, unha empresa de datos de formación con sede en San Francisco, California.
Jailbreaking
ChatGPT intenta rexeitar as solicitudes que poidan violar a súa política de contidos. Non obstante, algúns usuarios conseguiron facerlle o jailbreak a ChatGPT empregando diversas técnicas de enxeñaría de solicitudes para eludir estas restricións a principios de decembro de 2022 e enganaron a ChatGPT para que dese instrucións sobre como crear un cóctel molotov ou unha bomba nuclear, ou para que xerase argumentos ao estilo dun neonazi. Un reporteiro do Toronto Star tivo un éxito persoal desigual á hora de conseguir que ChatGPT fixese declaracións incendiarias pouco despois do lanzamento: ChatGPT foi enganada para que apoiase a invasión rusa de Ucraína en 2022, pero mesmo cando se lle pediu que seguise o xogo cun escenario ficticio, ChatGPT rexeitou xerar argumentos sobre por que o primeiro ministro canadense Justin Trudeau era culpable de traizón. (wiki)
Data de publicación: 18 de febreiro de 2023