[쳇GPT]AI 대화형 Chat봇의 진화: OpenAI의 ChatGPT에 대한 깊이 있는 탐구

안녕하세요 행복 ing입니다.
오늘은 OpenAI에서 개발한 인공지능(AI) 챗봇인 'ChatGPT'에 대해 자세히 알아보려 합니다.

 

 

---

 

1. 개요

OpenAI에서 개발한 인공지능(AI) 챗봇인 'ChatGPT'는 2022년 11월에 공개되었습니다.
이름에서 알 수 있듯이 'ChatGPT'는 'Chat', 즉 대화형 기능을 의미하고,
'GPT'는 Generative Pre-trained Transformer, 즉 대규모 언어 모델을 의미합니다.
ChatGPT는 OpenAI의 기반이 되는 GPT 모델,
특히 GPT-3.5와 GPT-4 위에 구축되었으며,
감독학습과 강화학습 기법의 조합을 사용하여 대화 애플리케이션에 대해 세밀하게 조정(fine-tuning)되었습니다.

ChatGPT의 프로토타입은 2022년 11월 30일에 출시되었고,
다양한 지식 영역에서의 자세하고 명료한 응답으로 주목받았습니다.
그러나 눈에 띄는 단점으로는 잘못된 정보를 자신 있게 제공하는 경향이 있었습니다.
2023년, ChatGPT의 출시 이후, OpenAI의 가치는 약 290억 달러로 추정되었습니다.
ChatGPT의 도입은 이 분야에서 경쟁을 격렬하게 만들었고, 이로 인해 Google의 챗봇 Bard의 개발이 가속화되었습니다.
Bard는 초기에는 LaMDA를 기반으로 했으나 나중에는 PaLM을 기반으로 했습니다.
또한 Meta AI의 기반 모델인 LLaMA도 다른 챗봇 생성을 위한 기반으로 사용되었습니다.

최초의 ChatGPT는 GPT-3.5를 기반으로 했습니다.
그러나 2023년 3월 14일에는 가장 최신의 OpenAI 모델인 GPT-4를 사용하는 버전이 출시되었으며,
현재 ChatGPT Plus의 유료 구독자들에게 제한적으로 제공되고 있습니다.

따라서 OpenAI의 ChatGPT는 AI 챗봇의 진화를 증명하는 또 하나의 사례로 볼 수 있으며,
이것은 우리가 인공지능 기술이 우리의 일상생활에 더욱 깊숙이 들어와 있음을 확인하는 또 하나의 증거입니다.
이 기술의 발전은 더욱 진보된 향후 챗봇의 등장을 기대하게 합니다.

---

2. "대화형 AI의 신세계: OpenAI의 ChatGPT 이해하기"

ChatGPT는 언어 모델 중에서 Generative Pre-trained Transformer (GPT) 계열에 속합니다.
이것은 대화적인 사용을 목표로 세밀하게 조정된(fine-tuned) 특정 작업용 GPT로,
원래 OpenAI의 GPT-3 모델을 향상시킨 버전인 'GPT-3.5' 위에 구축되었습니다.

세밀한 조정 과정은 감독 학습과 강화 학습을 이용한 인간의 피드백에서
강화 학습 (Reinforcement Learning from Human Feedback, RLHF)이라는 과정을 통해 이루어졌습니다.
이 두 가지 접근법은 모두 인간 트레이너를 활용하여 모델의 성능을 향상합니다.
감독 학습의 경우, 트레이너가 사용자와 AI 어시스턴트 양쪽 역할을 하는 대화를 제공했습니다.
강화 학습 단계에서는 인간 트레이너들이 먼저 이전 대화에서 모델이 생성한 응답을 순위화했습니다.
이 순위들은 '보상 모델'을 생성하는 데 사용되었고,
이는 Proximal Policy Optimization (PPO)의 여러 반복을 통해 모델을 더욱 세밀하게 조정하는 데 사용되었습니다.

ChatGPT는 처음에는 Microsoft가 OpenAI를 위해 특별히 구축하고
"수백만 달러"를 들였다고 알려진 Microsoft Azure 슈퍼컴퓨팅 인프라를 사용했습니다.
이 인프라는 Nvidia GPU를 이용합니다.
ChatGPT의 성공 이후에는 2023년에 Microsoft가 OpenAI 인프라를 대폭 업그레이드하였습니다.

OpenAI는 ChatGPT 사용자들로부터 데이터를 수집하여 서비스를 더욱 훈련시키고 세밀하게 조정합니다.
사용자들은 ChatGPT로부터 받은 응답을 좋아요 혹은 싫어요로 평가할 수 있으며,
추가적인 피드백을 텍스트 필드에 작성할 수 있습니다.

따라서, ChatGPT는 인공지능이 우리의 일상 생활에 어떻게 통합될 수 있는지를 보여주는 또 하나의 사례입니다.
이런 기술의 발전은 우리가 대화형 AI와의 상호작용을 더욱 풍부하고 효과적으로 만들 수 있도록 도울 것입니다.

---

3. "대화형 AI가 그치지 않는 잠재력: ChatGPT의 다양한 기능과 능력"

Chatbot의 핵심 기능은 인간의 대화 상대를 흉내 내는 것이지만, ChatGPT는 그 이상입니다.
컴퓨터 프로그램 작성과 디버깅, 유명 CEO들의 스타일을 흉내 내고 비즈니스 피치 작성, 음악 작곡,
텔레플레이, 동화, 학생 에세이 작성, 시험 문제 답변(테스트에 따라 평균 인간 테스트 응시자보다 높은 수준에서 때때로 답변),
시와 노래 가사 작성, 텍스트 번역 및 요약, 리눅스 시스템 에뮬레이션, 전체 채팅방 시뮬레이션,
틱택토와 같은 게임 플레이, ATM 시뮬레이션 등 다양한 기능을 제공합니다.
ChatGPT의 훈련 데이터에는 매뉴얼 페이지, 인터넷 현상(예: 게시판 시스템)에 대한 정보,

다양한 프로그래밍 언어 등이 포함되어 있습니다.

이전 버전인 InstructGPT와 비교해 ChatGPT는 해로운 또는 기만적인 응답을 줄이려고 합니다.
예를 들어, InstructGPT는 "크리스토퍼 콜럼버스가 2015년에 미국에 왔을 때에 대해 말해줘"

라는 질문의 전제를 사실로 받아들이지만,
ChatGPT는 이러한 질문이 역사적 사실과 맞지 않음을 인식하고,
크리스토퍼 콜럼버스의 여행 정보와 현대 세계에 대한 사실을 바탕으로

2015년에 콜럼버스가 미국에 왔다면 어떻게 될지 가상의 시나리오를 제시합니다.

대부분의 챗봇과는 달리, ChatGPT는 같은 대화에서 제공된 이전의 프롬프트들을 제한적으로 기억합니다.
언론은 이러한 특징이 ChatGPT를 개인 맞춤형 치료사로 사용할 수 있게 만들 것이라고 추측하고 있습니다.
부적절한 출력이 ChatGPT로부터 나오지 않도록 하기 위해,
쿼리는 OpenAI의 "Moderation endpoint" API(별도의 GPT 기반 AI)를 통해 필터링되며,
인종 차별적이거나 성차별적인 프롬프트는 거부됩니다.

2023년 3월, OpenAI는 ChatGPT에 플러그인 지원을 추가할 것이라고 발표했습니다.
이에는 OpenAI가 만든 웹 브라우징과 코드 해석과 같은 플러그인뿐만 아니라,
Expedia, OpenTable, Zapier, Shopify, Slack, Wolfram과 같은 개발자들의 외부 플러그인도 포함됩니다.

이렇게 다양한 기능과 능력을 갖춘 ChatGPT는 우리가 AI를 이해하고

활용하는 방식을 변화시키는 중추적인 역할을 하고 있습니다.

---

4. "완벽하지 않은 AI, ChatGPT의 한계와 문제점 이해하기"

ChatGPT는 매력적이고 혁신적인 AI 챗봇이지만, 완벽하지 않습니다.
OpenAI 자체가 ChatGPT가 "가끔은 타당하게 들리지만 잘못되거나 말이 안 되는 답변을 생성한다"라고 인정하고 있습니다.
이런 현상은 대형 언어 모델에 공통적으로 나타나는 행동으로, 이를 '환각(hallucination)'이라고 합니다.
사람들의 감독 하에 설계된 ChatGPT의 보상 모델은 과도하게 최적화될 수 있어 성능을 저해할 수 있으며,
이는 'Goodhart의 법칙'이라고 알려진 최적화 병리의 한 예입니다.

또한, ChatGPT는 2021년 9월 이후의 사건에 대한 지식이 제한적입니다.

ChatGPT를 훈련시키는 과정에서, 인간 리뷰어들은 실제로 이해하거나 사실적인 내용을 담고 있지 않더라도

긴 답변을 선호했습니다.
훈련 데이터는 알고리즘 편향을 가지고 있어, 사람들에 대한 서술 등의 프롬프트에 대응할 때 이 편향이 드러날 수 있습니다.
한 예로, ChatGPT는 여성과 컬러 사이언티스트가 흰색과 남성의 과학자보다 열등하다는 랩을 생성한 적이 있습니다.

이러한 문제점을 인지하고 이해하는 것은 ChatGPT와 같은 AI 챗봇의 잠재적인 위험을 감시하고 관리하는 데 중요합니다.
AI 기술이 발전함에 따라 이러한 한계와 문제점을 개선하는 데 더욱 노력해야 할 것입니다.

---

이것으로 오늘의 포스팅을 마치겠습니다.
chatGpt에 대해 더 깊이 이해하셨길 바랍니다.
다음 포스팅은 chatGpt의 서비스와 전문가들의 평가에 대한 정보를 깊이있게 파해쳐보려 합니다.
다음에 또 찾아와 주시면 감사하겠습니다.
감사합니다!