ChatGPT가 가진 잠재력은 무시하지 못할 수준인데, 구글의 모회사인 알파벳 CEO가 직접 언급할 정도로 경계하고 있을 정도다. 데이터가 더 쌓여 한계를 극복한다면 사용자가 직접 검색할 대상의 정보를 입력해야 하는 현 검색 문법을 아예 뒤바꿀 기술이 될 것이기 때문에, 장기적으로는 구글을 비롯한 모든 검색 엔진을 대체 할 수 있는 기술이기 때문이다. 이 때문에 이미 10억 달러를 투자했던 MS가 아예 100억 달러를 투자한다는 소문이 나오고 있을 정도로 이 AI가 가진 잠재력이 얼마나 되는지를 그대로 보여주고 있다.

대부분의 인간 업무는 반복적인 작업으로 이루어져 있다. 자료 수집, 정리, 오류 검토 등이다. ChatGPT와 같은 자연어 인공지능은 이와 같은 작업들을 모두 자동화한다. 인간은 추상적인 명령만 내리면 된다.

예를 들어 어떤 자료를 수집하고 싶다면, 이전에는 일일이 보고서와 논문을 열람해 한땀한땀 모아야 했다. 앞으로는 명령만 내리면 AI가 크롤링하여 즉각 제공한다. 변호사, 노무사, 회계사 상담처럼 비슷한 내용이 반복되는 전문가 조언도 인공지능으로 대체 가능하다. 레퍼런스가 많으며 결과물이 정형화되어있기 때문이다(결국 미국 법정에서 AI 변호사가 등장했다.#). 반복적 코딩 업무는 최소화되며, 컴퓨터 엔지니어들은 새로운 구조와 아이디어만 짜내면 된다.

아무리 고도화된 업무라고 할지라도 그 내용이 반복적이라면 AI의 생산성 우위를 이기기 어렵다. 결과적으로 지식과 기술의 발전 속도가 이전보다 훨씬 빨라지며, 더 소수의 인력으로도 더 높은 생산성을 낼 수 있다.

예술 작품 창작의 과정도 많은 부분 반복적인 업무로 구성되어있다. 스토리의 구성, 자료수집, 철학적 구조의 설정, 윤문 등에 도움을 받는다면 창작의 과정이 매우 빨라진다.

사람과 사람 사이의 상호작용도 많은 부분이 패턴화되어있다. 수년 안에 AI와 친구가 되거나 AI를 반려자로 삼는 사람이 등장할 수 있다.

하지만 이러한 잠재적인 문제도 존재하기 때문에 섣부른 예측은 금물이다. 빅데이터 봇이라 그런지 영어로 질문하면 한국어로 질문할 때보다 정확도가 올라가긴 하지만, 100% 정확한 건 아니다.

특히 기계학습 인공지능 모델들의 고질적 문제인 편향성 문제에서 자유롭지 못하다. 인공지능이 가치중립적일 것 처럼 보여도 결국 인공지능이 학습하는 것은 인간이 만든 데이터들이기 때문에 편향성에서 자유로울 수가 없다. 비교적 그런 문제에서 자유로운 편인 그림, 음악, 게임 알고리즘 부류와 달리 온갖 지식을 다루는 ChatGPT 특성상 편향성 문제가 강하게 드러날 잠재적 위험성이 크다. 게다가 제작진이 직접 개입하여 금지 사항을 정하고 가이드라인을 주입하기 때문에 더더욱 인위적인 편향성 문제가 생겨난다. 즉, 논란의 여지가 많은 질문일수록 대답을 신뢰하지 않는 것이 좋다.

ChatGPT 때문에 미국 교육계는 완전히 뒤집어졌다고 해도 과언이 아닐 정도로 학생들의 부정행위의 빈도가 눈에 띄게 늘어났다. 이 때문에 일부 학교에서는 교외 시험 및 숙제를 전면 중단하고 교내 시험으로 대체하거나 ChatGPT 사이트를 차단[2]하기까지에 이른다. 이에 대한 교사들의 생각도 제각각인데, 학생들의 창의력 저하를 우려하며 ChatGPT 사용을 금지하자는 의견과 ChatGPT는 사용하기에 따라 학업 능률을 끌어올려줄 '언어의 계산기'라며 본격적으로 커리큘럼에 도입해야 한다는 의견이 있다. 다만 과도기인만큼 보수적으로 접근하고 있으며, ChatGPT의 사용을 판단할 수 있는 GPTZERO[3]를 모든 학교에 배포하는 선에서 일단 정리가 되었다.

초대형 언어모델 때문에 서비스 운영에 어마어마한 비용이 발생하고 있다. OpenAI가 지불하는 비용이 쿼리 한 건당 수 센트에 달하는 것으로 추정되는데, 이는 ChatGPT가 현 시점에서는 지속 가능한 서비스가 아니며 마이크로소프트가 투자한 10억 달러를 태우면서 운영되고 있는 상태임을 시사한다. OpenAI는 최근 1개월당 42달러라는 유료화 계획을 발표했는데 이 액수가 결코 작은 액수가 아님에도 불구하고 이 비용으로도 현재 수준의 서비스를 지속적으로 제공할 수 있을지에 대한 회의적 시선이 존재한다.