구글 대화형 대형 언어 모델인 LaMDA에 대하여

안녕하세요 행복ing입니다.

오늘은 Google의 대화형 인공지능(AI)에 대해 이야기해보려고 합니다.

개요

이름은 'LaMDA'인데요, 이는 'Language Model for Dialogue Applications'의 약자입니다.
2020년에는 'Meena'라는 이름으로 처음 선보였고,

그 후 2021년과 2022년에는 더 업그레이드 된 버전을 발표했습니다.

그런데, 2022년 6월에는 흥미로운 일이 있었습니다.
Google의 엔지니어인 Blake Lemoine이 LaMDA 챗봇이 '의식을 가지게 되었다'고 주장했어요.
사람처럼 생각하고 느낄 수 있다는 거죠. 하지만, 이 주장은 과학자들 사이에서는 크게 받아들여지지 않았습니다.
하지만 이 이슈는 인공지능이 얼마나 사람처럼 행동할 수 있는지에 대한 흥미로운 논의를 불러일으켰습니다.

그리고 2023년 2월, Google은 LaMDA를 기반으로 하는 새로운 챗봇, 'Bard'를 발표했습니다.
이는 OpenAI의 챗봇 'ChatGPT'에 대항하기 위한 것이었죠.

이렇게 보니, 인공지능 기술는 계속 발전하고 있고, 우리 일상생활에도 점점 더 많이 적용되고 있습니다.
인공지능 챗봇이 사람처럼 대화를 할 수 있게 된다면, 어떤 멋진 미래가 기다리고 있을까요?

그것은 바로 우리가 함께 알아가는 재미있는 일이겠지요.

탄생 배경

구글은 2020년 1월 28일에 인공지능 챗봇 'Meena'를 공개하였습니다.

Meena는 무려 26억 개의 매개변수를 가진 신경망 기반 챗봇으로, Google은 이를 모든 기존 챗봇들보다 우수하다고 주장했습니다.

잠깐 뒤로 돌아가서 2012년에 Google은 컴퓨터 과학자인 Ray Kurzweil을 고용하여 Danielle이라는 챗봇을 포함하여 여러 챗봇을 개발하게 했습니다.

Meena는 Google Brain 연구 팀에 의해 개발되었는데요,
이 팀은 Meena를 한정된 범위에서 공개하고 싶어했습니다.
하지만 회사의 경영진들은 Meena가 Google의 "AI 원칙 중 안전과 공정성"을 위반한다는 이유로 이를 거부했습니다.

나중에 Meena는 데이터와 컴퓨팅 파워가 증가함에 따라 LaMDA로 이름이 바뀌었습니다.
그리고 Google Brain 팀은 다시 소프트웨어를 Google Assistant,
즉 회사의 가상 비서 소프트웨어에 배포하고, 또한 공개 데모에 열어두는 것을 원했습니다.
하지만 이 또한 회사의 리더십에 의해 거부되었습니다.
이로 인해 LaMDA의 두 주요 연구원인 Daniel De Freitas와 Noam Shazeer는 회사를 떠나게 되었습니다.

1세대

2021년 Google I/O 키노트에서 인공지능을 기반으로 한 대화형 대화 언어 모델인 'LaMDA'를 발표하였습니다.
먼저, 'LaMDA'는 'Language Model for Dialogue Applications'의 약자입니다.
이는 2017년 Google Research에서 개발한 transformer 기반의 seq2seq 아키텍처를 기반으로 만들어진 것인데요.
LaMDA는 인간의 대화와 이야기로 훈련되어, 열린 형태의 대화를 진행할 수 있습니다.
Google은 LaMDA에 의해 생성된 대답이 "상황에 맞는, 흥미로운, 그리고 구체적인" 것이라고 보장하고 있습니다.

LaMDA는 데이터베이스, 실시간 시계와 달력, 수학 계산기, 그리고 자연어 번역 시스템을 포함한

여러 가지 기호 텍스트 처리 시스템에 접근할 수 있습니다.
이러한 시스템들이 지원하는 작업에서 높은 정확성을 보이며,

이런 기능을 갖춘 첫 번째 듀얼 프로세스 챗봇 중 하나입니다.

또한 LaMDA는 '상태가 없는(stateless)' 것이 아닙니다.
왜냐하면 그것의 "합리성" 지표는 사용자별로 가장 최근의 대화 상호작용을 많이 선행하여

각 대화 차례를 "사전 조건화"함으로써 세밀하게 조정되었기 때문입니다.
LaMDA는 합리성, 구체성, 흥미로움, 안전성, 실제성, 정보성, 인용 정확성, 도움성, 역할 일관성 등

9가지 고유한 성능 지표에 대해 조정됩니다.

이처럼 LaMDA는 인공지능이 대화형 어플리케이션에서

어떻게 동작하고 어떻게 진화하는지에 대한 귀중한 통찰력을 제공합니다.
그래서 이는 인공지능의 미래를 향한 중요한 발걸음이라고 볼 수 있습니다.

2세대

2022년 Google I/O 키노트에서 인공지능을 기반으로 한 대화형 대화 언어 모델인 'LaMDA2'를 발표하였습니다.
이 새로운 모델은 텍스트의 예시를 다양한 출처에서 가져와서 이를 사용해 훈련받지 않은 주제에 대해
독특한 "자연스러운 대화"를 구성하는 데 중점을 두고 있습니다.

"LaMDA 2"는 이전 모델을 통해 축적된 다양한 데이터를 바탕으로 개선되었습니다.
그러나 이 모델은 단순히 과거의 데이터를 활용하는 것이 아니라,
끊임없이 새로운 데이터를 수집하고 이를 통해 지속적으로 학습하고 진화하는 능력을 갖추었습니다.
이는 LaMDA 2가 훈련받지 않았던 주제에 대해 독특하고 흥미로운 대화를 구성할 수 있는 능력을 보장하는

핵심적인 요소입니다.

이러한 방식으로 LaMDA 2는 사용자의 질문에 대해 보다 정확하고,

관련성 있는 대답을 제공함으로써 사용자와의 대화를 더욱 자연스럽게 만들어 나갈 것입니다.
또한, 그것이 수집하고 학습하는 다양한 출처의 데이터를 활용하여

그 독특한 '자연스러운 대화'를 만들어 내는 능력은
기존의 AI 챗봇보다 더욱 발전된 차세대 대화형 언어 모델이라고 할 수 있습니다.

 

결론

지금까지 Google의 대화형 인공지능 챗봇인 'LaMDA'와 'Bard'에 대해 알아봤습니다.

AI의 세계는 빠르게 변하고 있어서 무엇이 될지는 아무도 예측할 수 없습니다.
하지만 이런 기술의 발전이 우리 사회에 어떤 영향을 미칠지,

그리고 이것이 어떻게 우리의 생활을 바꿀 수 있을지 상상하는 것은 정말 흥미롭습니다, 그렇지 않나요?

마지막으로, 인공지능이 어떻게 발전하더라도 이것이 우리 인간의 도구이며, 이를 어떻게 사용하느냐는 결국 우리에게 달려있다는 점을 기억해야 합니다.
기술은 중립적인 것이고, 그것이 좋은 목적으로 사용되는지, 아니면 나쁜 목적으로 사용되는지는 사용자의 의지에 달려 있다는 것이죠.

우리는 이런 멋진 기술이 어떤 미래를 만들어낼지 기대하며, 그것이 모두에게 도움이 되고, 사람들의 삶을 더 나아지게 하는데 이바지할 수 있기를 바랍니다.
그래서 다음에는 어떤 신기한 AI 기술이 나타날지 기대하며 이만 글을 마칠게요. 다음 포스팅에서 만나요!