Implicacións de ChatGPT

En ciberseguridade

Check Point Research e outros sinalaron que ChatGPT era capaz de escribirphishingcorreos electrónicos emalware, especialmente cando se combina conOpenAI Codex.O CEO de OpenAI escribiu que o avance do software podería supoñer "(por exemplo) un enorme risco de ciberseguridade" e tamén continuou predicindo "poderíamos chegar a un AGI real (intelixencia xeral artificial) na próxima década, polo que temos que asumir o risco de iso moi en serio”.Altman argumentou que, aínda que ChatGPT "obviamente non está preto de AGI", hai que "confiar noexponencial.Plano mirando cara atrás,vertical mirando cara adiante”.

No ámbito académico

ChatGPT pode escribir seccións de introdución e resumos de artigos científicos, o que suscita cuestións éticas.Varios artigos xa enumeraron a ChatGPT como coautor.

EnO Atlánticorevista,Esteban Marcheobservou que o seu efecto no ámbito académico e especialmenteensaios de aplicaciónaínda está por entender.O profesor e autor de secundaria de California, Daniel Herman, escribiu que ChatGPT marcaría o inicio do "fin do inglés do instituto".NoNaturezaChris Stokel-Walker sinalou que os profesores deberían preocuparse porque os estudantes usen ChatGPT para terceirizar a súa redacción, pero que os provedores de educación adaptaranse para mellorar o pensamento ou o razoamento crítico.Emma Bowman conNPRescribiu sobre o perigo de que os estudantes plaxien a través dunha ferramenta de intelixencia artificial que pode producir un texto tendencioso ou sen sentido cun ton autorizado: "Aínda hai moitos casos nos que lle fas unha pregunta e darache unha resposta moi impresionante que está totalmente equivocada".

Joanna Stern conThe Wall Street Journaldescribiu facer trampas en inglés do instituto estadounidense coa ferramenta enviando un ensaio xerado.Profesor Darren Hick deUniversidade de Furmandescribiu notar o "estilo" de ChatGPT nun traballo enviado por un estudante.Un detector de GPT en liña afirmou que o documento tiña un 99,9 por cento de probabilidades de ser xerado por ordenador, pero Hick non tiña probas concretas.Non obstante, o estudante en cuestión confesou usar GPT cando se enfrontou e, como consecuencia, suspendeu o curso.Hick suxeriu unha política de facer un exame oral individual ad-hoc sobre o tema en papel se se sospeita que un estudante envía un traballo xerado por IA.Edward Tian, ​​un estudante de grao superior enUniversidade de Princeton, creou un programa, chamado "GPTZero", que determina a cantidade de texto que se xera mediante intelixencia artificial, o que se pode usar para detectar se un ensaio é escrito por humanos para combaterplaxio académico.

A partir do 4 de xaneiro de 2023, o Departamento de Educación da cidade de Nova York restrinxiu o acceso a ChatGPT desde os seus dispositivos e internet da escola pública.

Nunha proba a cega, xulgouse que ChatGPT aprobou exames de posgrao noUniversidade de Minnesotaa nivel de alumno C+ e enWharton School da Universidade de Pensilvaniacunha nota B a B-.(Wikipedia)

A próxima vez falaremos das preocupacións éticas do ChatGPT.