인간은 AI와 공존할 준비가 되었는가? AI윤리, 근본적 가치에 대하여: AI가 인간에게 묻다 (2/2)
02. AI가 바꾸는 경제
04. AI가 인간에게 어떤 질문을 하게 될까?
[AI가 인간에게 질문할 수 있을까?]
AI, 즉 인공지능은 '인간보다 똑똑한 기계'이기에 인간에게 질문할 필요가 없다. 그러나 질문을 한다는 것은 덜 똑똑하다는 것이 아닌 현명하다는 것이다. 소크라테스는 "너 자신을 알라"는 격언을 통해 자신의 무지를 인식하는 엄격한 잣대를 제시했다. 오늘날의 AI는 인간보다 똑똑하지만 현명하지 않기에 인간에게 질문할 리도 없고, 질문할 수도 없다.
AI가 인간에게 묻는다는 건, 즉 '?'를 띄운다는 건 답변 능력이 없다는 뜻이다. AI가 답할 수 없는 질문에는 무엇이 있을까? 이는 앞으로 AI가 발전하게 될 방향과 발전과정에서 거쳐갈 단계를 안다면 찾아낼 수 있다.
AI의 발전방향은 어떻게 결정될까? 시장을 기준으로, AI가 적극적으로 활용되기 이전에는 "기반기술의 발전에 따른 종속변수"가 될 것이고, 적극적으로 활용된 시점부터는 "소비자"가 원하는 방향으로 흘러갈 것이다.
2016년 3월 9-15일, 알파고가 이세돌 기사를 4 대 1로 이기는 사건이 존재했다. 책의 저자는 이 기점으로 AI 시대가 시작되었고, 2020년 코로나 19로 인해 온라인 소통이 증가하며 AI 시대를 사람들이 받아들였다고 판단한다. 즉, AI가 받아들여진 2020년 이후로는 소비자가 원하는 방향으로 AI가 발전하고 있다.
AI가 인간을 뛰어넘는 과정으로 AI의 발전과정을 설명하는 견해가 존재한다. 1950년대 초기 컴퓨터와 개발된 "전통적 AI", 데이터과학, GPU, 인공신경망을 활용한 "현대적 AI", 어떤 과정을 거쳐 결과를 도출했는지 알 수 있는 "설명할 수 있는 AI"가 존재한다. 미래에는 현재의 심층학습 AI를 뛰어넘어, 스몰데이터만으로도 높은 예측력을 가지는 AI가 나올 것이다. 그러나 궁극적인 AI의 발전은, AI의 한계를 뛰어넘는 것에서 끝나는 것이 아니라 실수와 실패를 거듭하며 희로애락을 느끼는 단계까지 이어질 것이다.
[AI의 5단계 발전]
AI 1.0 - 머신 러닝(기계학습)
앨런 튜링이 "기계는 생각할 수 있는가?"라는 질문을 던지며 생각하는 기계인 AI의 가능성이 제시되었다.
전통적인 프로그래밍과 달리 데이터를 분석하고, 학습해서 판단과 예측을 한다. 스스로 자율적인 학습을 하는 것이기에, 분석에 사용한 규칙을 알 수 없다. 그렇기에 "블랙박스"라고 부르며, "화이트박스"와 대비된다.
AI 2.0 - 딥 러닝(심층학습)
인간의 뇌신경회로를 모델로 해답을 찾아내는 알고리즘으로, 머신 러닝 모델 중 하나였던 "인공신경망"이 "심층신경망"으로 진화하며 탄생하였다. 이 인공신경망의 경우 분석 규칙이 무엇인가 알 수 없으므로 "블랙박스"의 특징을 가지고 있다는 점이 아쉬움으로 남는다.
우리는 현재 AI 2.0 세상에서 살고 있으며, AI 3.0의 문을 두드리고 있다.
----- 여기까지는 과학기술이 발전한 방향으로 AI가 진화했으며, 앞으로는 자금을 쏟아 붓는 방향으로 발전할 것이다. -----
AI 3.0 - 시스템 러닝(체계학습)
이때부터는 블랙박스로 간주하던 데이터와 해답 사이의 규칙을 알 수 있게 되므로, AI가 제시한 해답을 맹목적으로 따라가지 않아도 된다. 회사에서도, 고객이 "어떤 이유"로 해당 상품을 원하는지 알 수 있게 된다. 여기서, 구글의 광고 알고리즘이 생각난다. 어쩌면 이미 AI 3.0시대 온 것이 아닐까, 하고 저자는 제시한다.
2.0의 경우, 과거 회사 이익이 낮았던 상황을 통해 현재와 같은 상황에서 이익이 어떤 수준으로 떨어질 것인지 판단할 수 있으며, 3.0의 경우 과거 이익이 높았던 상황을 통해 현재 이익을 높이려면 어떤 전략을 세워야 할지 판단할 수 있다.
AI 3.0이 갖춰야 할 기반 기술로, 저자는 "시스템 다이내믹스 기법", 즉 SD기법을 제시한다. SD기법은 변수 사이의 관계를 일방적인 흐름이 아닌 상호교류하는 관계로 나타내는 것으로, AI 2.0과 SD기법이 만나는 곳에서 AI 3.0의 개발이 이루어질 것이라 제시했으며, 미주에서 실제 SD 전문가 신호상 서울과학종합대학원 교수에 의해 AI와 SD를 결합하는 연구가 진행 중이라 밝혔다.
AI 4.0 - 다이내믹 러닝(동태학습) / 퓨처 러닝(미래학습)
3.0까지는 데이터를 통해 과거와 현재를 설명해주는 데서 머무른다. 그러나 4.0부터는 데이터로부터 해방되어, 미래를 생성하는 메커니즘의 원리(패턴)를 파악해 미래를 예측할 수 있다.
AI 5.0 - 휴먼 러닝(인간학습)
우리는 모두 "호모 에라투스", 즉 "실수하는 인간"이기에 감정과 정서를 가지며, 실수로부터 학습한다. AI의 궁극적인 단계는 이러한 실수를 하는 "인간다운 기계"에 장착할 알고리즘이다.
최종단계인 5.0은 영화 "바이센테니얼 맨"에 등장하는 로봇 앤드류나 영화 "AI"의 로봇 데이비드와 같이 사랑할 수 있고, 지능과 호기심을 지닐 수 있다. 즉, 인간과 다를 바가 없는 것이다.
인간이 되기를 꿈꾸는 AI는 인공의 시대를 끝내면서 자발적 해체 단계로 접어들게 된다. AI가 우리 사회와 융합되어 인간과 기계가 하나가 되어 AI가 더이상 새로운 이슈가 아닌 때가 올 것이다.
『 AI가 인간에게 묻다』, 126쪽
| 1.0 머신 러닝 | 자율적인 학습 | 블랙박스 |
| 2.0 딥 러닝 | 심층신경망 | 블랙박스 |
| 3.0 시스템 러닝 | 데이터와 해답 사이 연관 도출 | 화이트박스 |
| 4.0 다이내믹 러닝 | 미래 예측 | 화이트박스 |
| 5.0 휴먼 러닝 | 인간다운 AI 에라투스 | 화이트박스 |
3.0~5.0이 현실화되는 시점
미래를 예측하는 AI 4.0은 AI의 발전 단계에서 가장 난해한 영역이므로 우리 세상에 들어오려면 4~5년 후가 될 듯 하다고 저자는 말한다. 그러나 copy-left 시대에서 더 빨리 개발될 수도 있고, 5.0에 추월 당해 더 늦게 개발될 수도 있다.
3년 후인 2025년이면 AI 5.0 상품을 판매하는 상점이 길가에, 그리고 온라인 시장에 나타날 것이다. 이 때 실수하는 인간을 뜻하는 '호모 에라투스'가 시장에서 판매하는 AI 로봇의 브랜드로 등장해도 놀라지 말자. 이때까지는 아직 완벽한 'AI 에라투스'가 완성되지 않을 것이기 떄문이다. 그러나 초기에 판매될 호모 에라투스야말로 완벽하지 않기 때문에 완벽한 걸작으로 평가될 것이다.
『 AI가 인간에게 묻다』, 128쪽
[현재의 AI가 답변하지 못할 6가지 질문 & 인간계의 답변]
AI 3.0에게 던질, 현재의 1.0과 2.0이 답하지 못할 질문은 "블랙박스 안에 있는 규칙"에 관한 질문이다.
1. AI가 확실하게 자리잡아 더 이상 경쟁력의 원천이 될 수 없는 3.0 시대가 오면, 블랙박스로부터 기업의 진정한 경쟁력이 나올 것이다. AI 3.0을 이끌 리딩 기업들의 '경쟁력의 원천'은 어떤 내용일까?
: 현재 MAGAT로 불리는 리딩 기업들은 딥러닝을 활용하며 경쟁력을 갖추었다. 그러나 AI가 기업경영에 보편화되는 시대가 닥칠 것이고, 그때도 현재의 기업들이 차별화된 경쟁력을 보유하기에는 한계가 있다. AI 1.0과 2.0을 넘어서기 위해서 반드시 연결되어야 하는 분야가 "뇌과학"이다. "AI+뇌과학"을 통해 인간의 감정과 행동을 효율적으로 통제할 수 있게 된다면 그것의 적용 범위는 어마무시하게 확장될 것이다. 현재 신경과학적 연구결과를 기반으로 고객마케팅 등의 연구가 진행되어 있다. 이미 뉴럴링크에서 돼지의 뇌에 칩을 박은 인공신경망 연구를 하고 있고 (+23.09.19 인간 임상 실험 참가자 모집) 생명윤리적인 문제가 존재하지만 나노 과학의 발달로 만들어진 신종 칩은 더 이상 인간에게 해가 되지 않을 것이며, 비침습적 검사를 사용해서라도 뇌의 비밀은 결국 밝혀질 것이다.
2. AI를 사용하지 않던 전통기업이나 새롭게 참여하는 신생기업들은 과감히 AI에 올라타야 하는가, AI가 침범하지 못할 영역을 찾아 AI에서 멀리 떨어져 나가야 하는가? 어떤 '차별화 전략'이 요구되는가?
: 모든 기업이 무리하게 AI 기업이 될 필요는 없다. 앞서간 AI 기업을 따라잡기 보다는 최소한의 장점만 취하고 틈새시장을 공략하는 것이 바람직하다. 즉, AI를 외면하는 것이 아닌 끊임없이 모니터하며 실용적 태도를 견지해야 한다. 인간은 사회적 동물이기에 비대면이 익숙해지는 AI 중심 세상에서도 "휴먼 터치"를 그리워 할 것이기 때문이다. 점점 비인간화되어 가고 있는 세상에 휴먼 터치, 곧 "소매틱"을 연결하는 전략을 세운다면 어떤 기업이든지 지속 가능성을 유지할 수 있을 것이다.
AI 4.0에게 던질 질문은 "데이텅와 패턴에 의존하지 않고, 이 세상 이치와 우리 삶의 원리에서 패턴을 찾아낸 후 이를 미래로 확장해서 해석하는 미래 예측"에 관한 질문이다.
3. AI는 대공황과 석유위기와 같은 대이변을 어떻게 예측하고, 이를 위한 '생존 전략'을 어떻게 제안할 것인가?
: 환경재앙이나 전쟁 같은 끔찍한 대이변이 벌어진다면 AI가 지배하는 세상이 중단될 가능성이 있다. 과학기술 문명의 꽃인 AI가 멸망하면 그와 함께 인간의 과학기술문명은 잿더미 속으로 사라질 것이고, 그 가운데 살아남은 인간은 그 잿더미 속에서 과학의 흔적을 찾아나갈 것이다. 인간이 대이변을 예측하기는 쉽지 않지만, 나타날 가능성을 줄일 수는 있다. "유연하고 융통성을 가지라, 즉 손익분기점을 최소한으로 낮추는 것"이 비결이다.
4. ESG(환경사회구조), CSV(공유가치창출) 등은 경영자가 살아남고 장수하는 기업을 만들기 위한 필요충분조건인가? AI가 알려줄 기업의 '지속 가능 전략'은 무엇인가?
: 기업경영 목표는 이익극대화에서 사회적 책임으로 방향이 변하고 있다. 특히 21세기, 많은 기업들이 윤리경영을 대의명분으로 내세우고 있지만 아직은 장식용에 그치는 경우가 많다. 그러나 AI 시대에 새롭게 부상하는 ESG, CSV는 인간의 궁극적 욕망과 연결되어 있기에 기업의 지속 가능 경영에 실제적 열쇠가 될 것이다. 또, 경영자가 기업을 자신의 몸이라 생각하고 아끼면 기 기업은 지속가능해질 것이다.
AI 5.0에게 던질 질문은 "실수와 실패로 인한 희로애락, 인간의 감성"에 관한 질문이다.
5. 인간은 AI만큼 유능하기도 어렵고, 공정하기도 어렵고, 투명하기도 어렵다. 이런 불리한 상황에서 인간이 AI와의 '리더십' 경쟁에서 이기려면 어떤 역량을 갖춰야 하는가?
: AI 5.0은 "인간적"인 AI일 것이다. 감성은 전통적으로 이성보다 떨어지는 인식 능력이라고, 이성으로 감성을 통제해야 한다고 배웠지만 이러한 이분법이 얼마나 허구였는지는 이미 많은 철학자와 뇌과학자들에 의해 증명되었다. 감성은 이성을 넘어 영성과 연결되는 전일적인 힘이다. 즉, 이성을 감성과 영성으로 보완한 전일적인 능력을 갖춘다면 경쟁에서 이길 수 있을 것이다. 미래를 드림 소사이어티라고 한다. 인류는 노동력, 화석에너지, 원자력을 넘어 이제 4세대 동력을 찾아 나서고 있고, 그 후보로 상상력을 꼽고 있다. 스티브 잡스, 제프 베조스, 일론 머스크 모두 최고 몽상가이다. 미래에는 이러한 감성과 창의력, 상상력에서 경쟁력이 나온다.
6. 인간은 실수한다. 고로 존재한다. 그러나 현실에서는, AI 5.0이 되기 전까지는 사회에서 우리의 실수를 용납하지 않을 것이다. 이런 숨막히는 사회에서 5.0이 나올 때까지 인간이 살아가는 데 필요한 '지혜'란 무엇인가?
: 지식을 과학을 통해 배운다면, 지혜는 인문학을 통해 배울 수 있다. 인문학이 사회과학, 자연과학과 다르다는 점은 영원하다는 점이다. 가까운 미래는 사회과학, 자연과학으로 예측할 수 있지만 먼 미래는 인문학을 통해서 예측할 수 있다. 이 책에서는 이러한 미래를 준비하는 데 가장 중요한 지혜로 "용서와 경천"을 든다. 용서하는 마음에서 나오는 "사랑"이야말로 우리 인간계가 추구하는 이상이 아닐까, 하며 답변을 마무리했다. (느껴지겠지만, 제대로 이해하지 못했다. 인문학을 통해 '지혜'가 무엇인지 고민하고, 타인의 실수는 용서하며, 하늘에게 떳떳하게 살아가는 것이 중요하다는 이야기인가—, 싶지만 정확히 이해하지 못했다.)
05. AI가 바꾸는 산업구조, 어디까지 왔나?
혁신의 아이콘이던 인공지능이 이제는 우리 일상의 일부로 안착하며 산업의 패러다임을 근본적으로 바꾸고 있다. 이는 누군가에게 위기이겠지만, 누군가에게는 기회이다. 이 장에서는 스마트공장, 자율주행 서비스, 에어모빌리티, 스마트홈, 반려로봇의 총 5가지 키워드에 대해 다루고 있다.
[스마트공장은 위기에 빠진 제조업의 구원투수가 될 수 있을까]
코로나19 사태를 통해 제조업의 중요성이 재조명되었다. "스마트 공장"이란 모든 생산과정을 ICT로 통합해 최소 비용과 시간으로 고객 맞춤형 제품을 생상하는 첨단 지능형 공장이다.
"사이버 물리 생산 시스템"을 통해 기획·설계 과정에서는 시뮬레이션을, 생산 단계에서는 시스템 사이의 실시간 정보교환을 통해 효율성을, 유통·판매 측면에서는 동기화가 가능하다.
이러한 스마트 공장은 인공지능과 만났을 때 더욱 진가를 발휘한다. 설비의 예지 보수에도, 공장 전체 효율화에도 인공지능이 큰 기여를 하고 있다.
[우리나라에서는 언제쯤 일상에서 자율주행자동차를 타볼 수 있을까]
웨이모가 2018년 피닉스에서 유상으로 자율주행 서비스를 시작했다. 유상이라는 것은, 그만큼 기술이 안정화되었다는 말이다. 원래 운전석에서 세이프티 드라이버가 앉아 있었지만, 2020년 11월에는 안전요원이 탑승하지 않는 완전한 의미의 ㅏ율주행 서비스가 출시됐다.
테슬라는 라이다(레이저를 발사한 뒤 반사되어 돌아오는 것을 활용하여 주변 모습을 정밀하게 그려내는 것)와 정밀지도를 사용하지 않기에 자율주행 완성도는 다소 떨어진다는 의견도 있지만, 가격과 범용성 측면에서 큰 강점이 있다.
자율주행 기능은 크게 인지, 판단, 제어로 구성된다. 인지의 경우 카메라, 레이더, 라이다 등의 센서가 복합적으로 사용된다. 카메라는 밤이나 악천후 상황에서 정확도가 떨어지기에 레이더와 라이더를 추가적으로 사용한다. 레이더는 해상도가 낮지만 저렴하고, 라이더는 해상도가 매우 높지만 가격도 매우 비싸다.
사진을 보여주고 강아지인지 고양이인지 구분하는 인공지능은 오차가 좀 있어도 괜찮을 수 있다. 그러나 자율주행차에서는 그러한 오차가 허용되지 않는다. 자동차 운영은 사람의 목숨과 연계되기 때문에 99%가 아닌 100%의 정확도가 필요하다.
『 AI가 인간에게 묻다』, 158쪽
[하늘길을 누비는 에어택시는 언제쯤 현실화될까]
인공지능을 바탕으로 스스로 운행하는 에어모빌리티가 현실화되고 있다. 자동차 대신으로는 전동수직이착륙기가 주목받고 있고, 버티포트vertiport 또는 스카이포트skyport라 불리는 터미널은 전기 충전과 정비를 위한 공간, 그리고 멀티모달 모빌리티의 허브로서 다른 교통수단과 연계될 수 있다.
항공기 제조사인 에어버스Airbus의 자율주행기반 4인승 드론택시인 시티에어버스는 2024년 파리 올림픽 때 본격 상용화될 예정이다. 한국에서, 국토교통부는 2020년 11월에 도심항공 교통 실증 비행 행사가 열었다. 중국 이항의 2인승 에어모빌리티인 EH216에 20kg 쌀 4포대를 싣고, 50m 상공 1.8km를 7분간 비행했다. 상용화의 시작은 2025년으로 잡았다고 한다.
[스마트홈이 확산되면서 우리의 거주생활은 얼마나 더 편리해질까]
스마트홈을 떠올렸을 때 우리가 상상할 수 있는 거의 모든 것들이 이미 기술적으로 충분히 구현 가능하다.
예전에는 하루 종일 켜 있는 냉장고가 스마트홈의 허브 역할을 할 것이라 생각했지만, 실제로는 인공지능 스피커가 그 역할을 하게 되었다.
스마트홈은 "삶의 질, 지속가능성, 산업 육성"을 목적으로 스마트시티로 뻗어나갈 것이다. 기술 자체보다는, 어떻게 하면 사람들의 삶의 질을 풍요롭게 만들고 지속가능한 도시를 만들지에 집중해야 한다.
[인공지능 고도화로 한층 정교해진 반려로봇이 반려동물을 대체할 수 있을까]
그동안 수많은 연구자들이 인간의 노동을 대신해줄 로봇을 개발하려고 노력하여 산업용 로봇이 많이 등장했다. 하지만 2000년대에 들어서며 서비스 로봇의 시대가 시작됐다.
로봇청소기, 배송로봇, 수술을 돕는 로봇, 재활을 돕는 로봇, 요리하는 로봇 등 이미 많은 로봇이 우리 삶에 들어와 있다. 최근 현대 자동차가 인수한 보스턴 다이내믹스는 로봇 분야 대표 기술사업으로, 사족보행 로봇 스팟Spot, 이족보행 로봇 아틀라스Atlas 등을 선보였다. 스팟은 이미 상용화가 되어 있다.
로봇은 가상세계의 인공지능을 물리세계에 구현했다는 중요한 의의를 가진다. 즉, 인공지능이 현실공간에서 인간과 상호작용할 수 있게 되었다.
가장 대표적인 반려로봇은 소니의 아이보Aibo이다. 집안 구조 학습하기, 사람의 얼굴을 분간해 기억하기, 졸졸 따라다니기, 춤 추기, 꼬리 흔들며 반응하기, 주인이 돌아오기 기다리기 등 실제 반려동물과 유사한 행동을 한다. 중국 스타트업 앨리펀트 로보틱스의 마스캣Markcat은 사물을 인식하고, 터치 센서로 사람의 손길에 반응한다. 또한, 스트레칭, 앞발 세수, 얼굴 비비기 등 고양이 특유의 행동들을 재현해 낸다.
06. AI가 양극화를 완화하는 데 기여할 수 있을까?
디지털 전환의 6가지 변화는 비대면화, 탈경계화, 실시간화, 서비스화, 초실감화, 초맞춤화이다.
잠재성장률을 구성하는 주요 부문은 노동 투입, 자본 투입, 총요소생산성 세 가지이다. 각각 생산 인구 감소, 기업가 정신 약화, 경영 시스템 효율 감소로 인해 한국의 잠재성장률은 점차 하락하고 있다.
노동 투입 부문에서 생산 인구 감소는 여성 경제활동 인구 확대 정책으로 해결하려 노력 중이다. 다만 이러다 보면 저출산 문제에 직면하는데, 이를 해결하기 위해 재택근무를 활용할 수 있다. 기업들의 ERP 시스템이나 업무프로세스 자동화, 인공지능 사내 챗봇 등이 재택근무를 지원할 수 있다.
자본 투입 부문에서, 우리는 인공지능 시장을 확대할 수 있다. 인공지능을 도입해서 활용할 수 있도록 비즈니스 모델을 전환해 나가는 과정에서 많은 자본이 투입될 수 있도록 이끌어나갈 수 있을 것이다.
총요소생산성 부문을 살피기 위해서는 AI와 관련해 두 가지를 검토해야 한다. 먼저, 어떤 부문의 R&D에 투자를 해야 할까하는 문제에 대한 인공지능의 기여를 생각해야 하고, 인공지능의 경제 기여도 또한 고려해야 한다. EIU(영국 시사주간지 이코노미스트의 자회사)는 지금대로라면 한국의 경제가 2030년에 1.78% 성장에도 못 미치지만, 인공지능에 적극적으로 R&D 투자를 진행하고 디지털 경제로 산업 구조를 재편해 나간다면 성장률을 3%까지 끌어올릴 수 있을 것이라 제시했다.
총요소생산성은 경영 시스템에 의해서도 결정된다. 한국은 인공지능에 대한 관심은 높으나 아직 기술을 전면적으로 도입하지는 못했다. 따라서 많은 기업들에 인공지능을 적극적으로 도입하고, 비즈니스 모델 전환을 통해 시장을 확산해 나간다면 한국의 침체된 경제 성장률을 극복하는 계기가 마련될 수 있을 것이다
사회를 바꾸는 신기술의 등장은 언제나 열광과 공포를 동반한다.
『 AI가 인간에게 묻다』, 193쪽
지니계수를 보면, 한국은 소득 불평도 정도가 굉장히 크며, 최근은 세대 간 디지털 격차도 벌어지고 있다. 이러한 양극화 상황에서 인공지능을 이용해 양극화 문제를 완화할 수 있을지에 대해 많은 연구가 이루어지고 있다.
2019년 이루어진 MS소프트의 연구에 따르면, 기술 발전에 따라 일자리를 잃을 가능성이 있는 잠재적 실직 근로자의 75%에게 인공지능 디지털 부문에 대한 재교육을 제공할 시 지니계수 상승률을 27%에서 11%로 낮출 수 있다고 평가했다.
2019년 발표한 매킨지의 연구 보고서에서는 이미 진행되고 있는 자동화에 저항하기 보다는 자동화의 과실을 공유할 수 있는 정책적 대응의 중요성을 강조한다. 한국에서도 디지털 역량 강화 사업이 많이 진행되고 있다.
이 부분을 읽으며, 디지털 역량 강화 사업이 어떤 수준으로, 얼마의 비용을 받고 얼마의 시간동안 누구에게 적용되는가가 중요할 것이라는 생각이 들었다. 보여주기식의 무언가가 아닌, 진짜로 수준높은 디지털 역량 강화 사업이 필요할 것 같다.
저자는 "왜 미중 전쟁에서 AI가 핵심인가? 그리고 여기에 한국은 어떻게 대응을 해야 할까?"라는 질문을 많이 받는다고 한다. 그러며 미중 전쟁은 단지 무역 적자를 줄이거나 해소하는 차원의 문제가 아닌, 기술 패권 전쟁이라 설명한다.
2019년에 들어 스마트폰 시장점유율에서 화웨이가 애플을 추월했고, 5G통신의 표준필수특허 점유율에서도 화웨이가 1등이다. 그밖에도 첨단 기술 관련 특허 건수를 보면 중국이 양자컴퓨터를 제외하고는 AI, 블록체인, 자율주행, 사이버 보안 등 여러 영역에서 미국을 압도하고 있다. AI 연구 역시 중국이 미국을 턱밑까지 추격해왔다. 그렇기에 지금 중국을 제어하지 못하면 곧 중국이 미국의 경제를 압도하게 될 것이라는 위기감에기술 패권 전쟁이 발발한 것이다.
07. AI는 어떻게 생각하는가?
1950년, 사람처럼 생각하고 사람처럼 행동하는 기계를 만들려는 프로젝트가 시작된 것이 인공지능의 시작이다. 초기에는 체스와 같이 규칙은 단순하지만 오래 생각하고 풀어야 하는 것을 연구했다. 이를 통해 지능에 대한 일반적인 원리를 발견하면, 그 원리를 조금 더 복잡하고 어려운 실제 문제에도 적용할 수 있을 것이라는 발상이다. 이렇게 20년 정도 연구를 진행한 결과, 이런 접근법으로는 문제를 풀 수 없다는 것을 알게 되었다.
그렇기에 1980년, 방향을 바꿔 전문가 모델 개발을 시작했다. 문제의 영역을 좁히고, 그 영역 안에서 많은 지식을 기계한테 집어넣어 문제를 풀게 하는 지식 기반의 전문가 시스템이 등장한 것이다. 그러나 이 또한 한계가 밝혀졌다. 인간도 스스로 무엇을 알고 모르는지 완전히 알기 어렵고, 설령 해당 분야의 지식을 완벽히 파악한다고 해도 그것을 기계에게 모두 집어넣어줄 방법이 없단 것이다. 즉, 어느 정도 사람을 흉내내서 할 수 있지만 사람을 능가하여 사람보다 더 잘하기는 어렵다는 것을 알게 되었다. 그 결과 인공지능 연구는 빙하기에 들어간다.
이를 해결하기 위해 새로운 패러다임이 등장했다. 첫째, 사람의 뇌 구조와 비슷한 방법을 이용하는 것으로, 이것이 머신러닝이라는 방법으로 20~30년의 연구를 통해 정착 되었다. 둘째, 불확실성을 잘 다루는 인공지능으로, 확률적인 의사결정을 위한 확률적 추론 방법이 연구되었다. 셋째, 단순한 특정 문제 풀이보다는 지능형 에이전트를 연구하는 것이다.
이렇게 3가지 특징의 새로운 인공지능 연구가 진전한 결과, 2010년 무렵부터 인공지능이 동면에서 벗어나기 시작했다. 그 기간동안 인터넷, 스마트폰, 소셜 미디어 등의 발달로 어마어마한 양의 디지털 데이터가 쌓였기에 이를 활용하여 넷플릭스와 같은 회사들이 성장하기 시작했다. 대략 2012년쯤에 딥러닝 기술이 발전하며 인공지능은 본격적인 산업화 단계로 들어선다.
머신러닝 이전까지는 컴퓨터에 무언가 일을 시키려면 사람이 이미 알고 있는 함수 f를 기계에게 넣어주어야 했지만 지금은 x값과 y값의 다양한 데이터를 주면 기계가 함수 f를 자동으로 만든다는 것이 가장 큰 차이이다.
이를 정리하면, 인공지능을 만드는 방법에는 크게 2가지가 있다. 하나는 사람이 아는 지식을 프로그래밍해서 기계에게 넣어주는 것이고, 다른 하나는 데이터만 주고 기계가 스스로 학습해 프로그램을 자동으로 만들도록 하는 방법이다. 전자를 규칙 기반 프로그래밍이라고 하며, 아직도 상차별 문제 등과 같은 예외적인 상황을 다루기 위해 챗봇 등에서 이 방법을 사용한다. 후자는 앞서 말했듯 딥러닝으로, 최선의 수를 찾기 위해 패턴을 학습한다.
AI가 인간을 능가할 수 있는가
인공지능이 실수로부터 배운다는 것은 뭔가를 해보고 결과를 내본다는 뜻이며, 감독학습이 해당된다. 실수를 통해 에러를 교정함으로써 학습하는 것이 신경망 학습의 원리이다. 이때 데이터를 많이 축적하고 반복적으로 오류를 수정할 수록 성능이 향상된다.
계속 반복해 말하듯, 머신러닝은 기계가 알고리즘을 자동으로 설계한다. 여기서 기계가 사람보다 똑똑해질 수 있는 가능성이 생긴다. 특정 프로그램이 나보다 더 많은 데이터를 학습하면 내가 경험한 것보다 더 많은 지식과 경험을 축적할 수 있게 되고, 결국 나보다 더 똑똑해질 수 있다.
내가 짠 프로그램이 또 다른 프로그램을 만들고, 그 프로그램이 다시 더 똑똑한 프로그램을 만든다면, 언젠가는 인간의 지능 수준을 넘어서는 기계의 지능이 등장할 수도 있다. 바로 이 지점을 특이점이라고 한다. 바둑에서, 바둑 지능이 있다면 이미 특이점에 도달한 셈이다.
그러나 사람마다 지능에 대한 관점이 다르다. 일반적으로 지능이라고 하면 바둑같은 제한된 조건보다는 훨씬 다양한 영역에서 문제를 풀 수 있는 능력을 말한다. 심리학자들은 대개 불확실한 정보를 가지고 문제를 해결하는 능력을 지능이라고 정의한다. 이러한 관점에서 인간을 능가하는 인공지능이 등장해야 진정한 특이점이라고 할 수 있을 것이다. 이 특이점이 언제 올까에 대한 질문은, 약 50%의 AI 전문가들이 2040~2050년 무렵에 올 수도 있을 것이라고 예측했다.
인간의 뇌 신경망 세포는 마모되고, 피로도 느끼고, 수명을 다하면 죽지만, 반도체는 내구성도 좋고 피로해지지도 않는다. 마모되면 교체해버리면 될 뿐이다. 집단 지성의 측면에서도 인공지능에게 장점이 있다. 인간은 조직에서 한번 공동의 목표를 정하면 그 방향을 조정하기 어렵지만, 기계는 아주 쉽게 조정할 수 있다. 디지컬 지능은 이런 여러 가지 장점을 가지고 있기에 이를 살리면 특이점에 도달하는 것은 사실 시간 문제일 뿐이다.
인공지능의 기본 원리를 떠올리면, 우리가 학습 데이터를 많이 모으로 목적 함수를 잘 정의하면 기계가 어느정도 프로그램을 만든다. 이 원리를 이용해 기계가 스스로 지식을 축적할 수 있는 단계까지 왔다. 그러나 아직 부족한 점은 학습 데이터를 누가 주는지, 어떤 학습 데이터를 주는지에 따라 성능이 달라진다는 것이다. 데이터는 여전히 인간이 제공해주어야 한다. 인간 수준의 인공지능이 되려면, 이 또한 기계가 직접해야 할 것이다.
다른 부족한 점은, 목적함수 또한 인간이 잘 설정해 주어야 한다는 것이다. 기계는 이 목적함수에 맞춰 최적화하도록 학습하는데, 이렇게 인간에 의존하는 한 편향성을 가질 수도 있고 데이터가 부족해 완전하지 못한 예측을 할 수도 있다.
그래도 결국에는 특정한 문제 영역들, 그러나 생각보다 훨씬 다양한 영역들에서 인간을 뛰어넘는 인공지능이 속속 등장할 것이다.
그러나 진정한 의미에서의 일반 지능, 사람이 하는 모든 일에서 인간을 능가할 정도의 수퍼 지능이 등잘할 수 있을지는 여전히 철학적인 문제로 남아 있다.
『 AI가 인간에게 묻다』, 215쪽
두 번의 글을 동해, 이렇게 내용 정리를 모두 마쳤습니다. 이 책을 읽으며 인문학, 철학적 관점에서 인공지능을 바라보고 고민하는 것도 무척이나 중요하단 것을 깨달았습니다. 설명 가능한 AI, AI가 유발하는 사회 불평등, 관련 법률을 제정하기 위해 기본이 되어야 할 가치관 등을 더욱 깊게 공부하고 고민해야 겠다고 생각했습니다.
제가 책을 읽으며 밑줄을 긋거나 따로 필기해 둔 부분을 위주로 최대한 많은 내용을 정리하고자 했습니다. 그러나 책의 모든 내용을 옮길 수는 없기에, 혹 이 글을 읽는 분이 계시다면 한번쯤 이 책을 읽어보시길 추천드립니다. 감사합니다.
