Implicacións de ChatGPT

En ciberseguridade

Check Point Research e outros sinalaron que ChatGPT era capaz de escribirsuplantación de identidade (phishing)correos electrónicos esoftware malicioso, especialmente cando se combina conOpenAI CodexO director executivo de OpenAI escribiu que o avance do software podería supoñer «(por exemplo) un enorme risco de ciberseguridade» e tamén continuou a predicir que «poderíamos chegar a unha verdadeira AGI (intelixencia artificial xeral) na próxima década, polo que temos que tomar o risco diso moi en serio”. Altman argumentou que, aínda que ChatGPT “obviamente non está preto de AGI”, hai que “confiar noexponencialPlano mirando cara atrás,vertical mirando cara adiante.”

No ámbito académico

ChatGPT pode escribir introducións e resumos de artigos científicos, o que suscita cuestións éticas. Varios artigos xa incluíron a ChatGPT como coautor.

EnO Atlánticorevista,Esteban Marchesinalou o seu efecto no ámbito académico e, especialmente,ensaios de solicitudeaínda non se comprende. O profesor de secundaria e autor de California, Daniel Herman, escribiu que ChatGPT marcaría o comezo do "fin do inglés no ensino secundario". NoNaturezarevista, Chris Stokel-Walker sinalou que os profesores deberían estar preocupados polo uso de ChatGPT por parte dos estudantes para externalizar a súa escritura, pero que os provedores de educación adaptaranse para mellorar o pensamento ou o razoamento crítico. Emma Bowman conNPRescribiu sobre o perigo de que os estudantes plaxien mediante unha ferramenta de IA que pode producir texto tendencioso ou sen sentido cun ton autoritario: «Aínda hai moitos casos nos que fas unha pregunta e che dará unha resposta que soa moi impresionante pero que é simplemente incorrecta».

Joanna Stern conO Wall Street Journaldescribiu facer trampas no inglés de secundaria estadounidense coa ferramenta presentando un ensaio xerado. O profesor Darren Hick deUniversidade Furmandescribiu que se decatou do "estilo" de ChatGPT nun traballo presentado por un estudante. Un detector de GPT en liña afirmaba que o traballo tiña un 99,9 por cento de probabilidades de ser xerado por ordenador, pero Hick non tiña probas contundentes. Non obstante, o estudante en cuestión confesou usar GPT cando foi confrontado e, como consecuencia, suspendeu o curso. Hick suxeriu unha política de dar un exame oral individual ad hoc sobre o tema do traballo se se sospeita fortemente que un estudante presentou un traballo xerado por IA. Edward Tian, ​​un estudante de último ano de grao enUniversidade de Princeton, creou un programa, chamado "GPTZero", que determina canta parte dun texto é xerada por IA, o que se presta a ser usado para detectar se un ensaio foi escrito por humanos para combaterplaxio académico.

Desde o 4 de xaneiro de 2023, o Departamento de Educación da cidade de Nova York restrinxiu o acceso a ChatGPT desde a internet e os dispositivos das escolas públicas.

Nunha proba cega, considerouse que ChatGPT aprobara os exames de nivel de posgrao noUniversidade de Minnesotaao nivel dun estudante de C+ e enEscola Wharton da Universidade de Pensilvaniacunha cualificación de B a B-. (Wikipedia)

A próxima vez falaremos sobre as preocupacións éticas do ChatGPT.