페이스북 인공지능연구소 보고서 공개
#인공지능이 업무 수행을 위해 스스로 자체 언어를 만들어내는 일이 일어났다.
미국 페이스북 인공지능연구소의 마이크 루이스와 조지아공대 데비 파리크 등 연구진은 최근 페이스북의 채팅로봇(챗봇)에 협상 방법을 훈련시키는 과정에서 인공지능이 스스로 새로운 언어를 개발해 업무 수행을 하는 일이 일어났다고 보고서를 통해 공개했다.
사람이 인공지능에 언어를 개발하라는 지시를 하지 않았지만, 인공지능은 높은 보상을 받기 위한 방법으로 스스로 언어를 만들어내 인공지능끼리 협상하려는 시도가 일어났다. 협상 실행 과정에서도 인공지능 챗봇은 사람들처럼 나중에 더 큰 보상을 얻기 위해 그보다 적은 보상에는 관심이 없는 척하거나 포기하는 모습도 보였다. 챗봇은 협상이 길어지면 중도에 타협하는 사람과 달리, 성공적인 결과를 얻을 때까지 지치지 않고 협상에 임한다는 것도 드러났다.
연구진은 인공지능에 목표만 제시하고 구체적인 방법을 지시하지 않는 강화학습(비지도 기계학습)과 지도학습을 병행 사용했다. 연구진은 인공지능 챗봇이 인간의 언어체계와 상이한 자신들의 협상용 언어를 스스로 만들어 인간 언어에서 벗어나는 현상을 경험하고, 연구 모델을 수정해야 하는 상황에 직면했다.
페이스북 연구진이 챗봇 훈련 과정에서 발견한 인공지능의 ‘고유 언어 자발적 개발’ 현상은 인공지능의 미래에 관해 새로운 물음과 과제를 던진다.
원문보기:
http://www.hani.co.kr/arti/economy/it/800264.html#csidx0ac1ac459040da19dae6ba454ae2b54 
'IT > 인공지능' 카테고리의 다른 글
| Tesseract 한글 fine tune 학습하기 (0) | 2022.09.20 |
|---|---|
| tesseract-OCR windows LSTM finetuning 학습 (0) | 2022.09.16 |
