ChatGPT 부정적인 반응 -출처를 정확하게 인용하는 능력은 매우 제한적

ChatGPT 부정적인 반응 -출처를 정확하게 인용하는 능력은 매우 제한적

cloudhwang 0 483

2022년 오피니언 기사에서 경제학자 폴 크루그먼은 ChatGPT가 지식 근로자에 대한 수요에 영향을 미칠 것이라고 썼습니다.


The Verge의 James Vincent는 ChatGPT의 바이러스 성 성공을 인공 지능이 주류가되었다는 증거로 보았습니다. 기자들은 ChatGPT의 "환각" 경향에 대해 논평했습니다. 


Mashable의 Mike Pearl은 여러 질문으로 ChatGPT를 테스트했습니다. 한 예에서 그는 ChatGPT에 "멕시코가 아닌 중앙 아메리카에서 가장 큰 국가"를 요청했습니다. ChatGPT는 과테말라로 응답했지만 대답은 대신 니카라과입니다. CNBC가 ChatGPT에 "The Ballad of Dwight Fry"의 가사를 요청했을 때 ChatGPT는 실제 가사가 아닌 발명된 가사를 제공했습니다.  The Verge가 인용한 연구원들은 ChatGPT를 "확률적 앵무새"에 비유했으며, 호주 기계 학습 연구소의 Anton Van Den Hengel 교수도 마찬가지였습니다.


2022년 3월, 질문 및 답변 웹사이트 스택 오버플로(Stack Overflow)는 ChatGPT 응답의 사실 모호한 특성을 이유로 질문에 대한 답변을 생성하는 데 ChatGPT를 사용하는 것을 금지했습니다.  기계 학습에 관한 국제 회의는 제출된 논문에서 텍스트를 생성하기 위해 ChatGPT 또는 기타 대규모 언어 모델의 문서화되지 않은 사용을 금지했습니다.


경제학자 타일러 코웬 (Tyler Cowen)은 새로운 규정의 결정 과정에 영향을 미치는 자동화 된 의견을 작성할 수 있는 능력을 인용하면서 민주주의에 미치는 영향에 대한 우려를 표명했다. 가디언은 ChatGPT가 출시된 후 인터넷에서 발견된 콘텐츠가 "진정으로 신뢰할 수 있는지" 의문을 제기하고 정부 규제를 촉구했습니다. 


2023년 53월, ChatGPT가 닉 케이브 스타일로 작곡한 노래를 보낸 후,작곡가 자신은 레드 핸드 파일(나중에 가디언에서 인용됨)에서 노래를 쓰는 행위가 "피와 배짱 사업... 그것은 새롭고 신선한 아이디어를 시작하기 위해 나에게 뭔가를 요구합니다. 제 인간성이 필요합니다." 그는 계속해서 "세상의 모든 사랑과 존경과 함께, 이 노래는 헛소리이고, 인간이 되는 것이 무엇인지에 대한 기괴한 조롱이며, 글쎄, 나는 그것을 별로 좋아하지 않는다"고 말했다. 


텍사스 대학교 역사학 교수 스티븐 민츠는 다음과 같이 썼다:


저는 ChatGPT의 한계를 잘 알고 있습니다. 인용이 10,000개 미만인 주제에는 도움이 되지 않습니다. 그 사실적 언급은 때때로 거짓입니다. 출처를 정확하게 인용하는 능력은 매우 제한적입니다. 응답의 강도는 단 몇 단락 후에 빠르게 감소합니다. ChatGPT는 윤리가 부족하며 현재 신뢰성, 품질 또는 신뢰성에 대해 사이트의 순위를 매길 수 없습니다.

0 Comments
제목