모빌아이 자율주행 기술 AI 관련 (최원석의 디코드 발췌) [테슬라 경쟁사]CES 2021에서 샤슈아 CEO가 밝힌

1. 현재 소비자가 접할 수 있는 최고 수준의 기술인 레벨 2 또는 2 플러스 시장의 최강자가 모빌아이입니다. 관련 기술 및 칩 시장에서 압도적 1위입니다. 현대차를 포함한 많은 자동차 회사들이 모빌아이의 기술을 사서 씁니다. 모빌아이가 뛰어난 이유는, 시판차에 장착된 자사의 시스템에 의해 막대한 주행 데이터를 수집해, 기술 향상에 활용하기 위해서입니다.

모빌아이는 2022년까지 전 세계 1400만 대의 차량에서 주행 데이터를 수집할 계획입니다. 이런규모축적이가능한회사는전세계에서모빌아이밖에없습니다.

회사는 이 과정을 수직통합해 보다 정밀한 개발이 가능하기는 하지만 아직 시장에 탑재한 자사 차량 수가 130만 대 정도에 불과합니다.

 

 

2. 모빌아이 관련

-2020년 모빌아이는 전년보다 10%가량 성장, 이미 출하된 모빌아이 기반 자동차는 누계 3620만대에 달함.- 모빌아이 비즈니스는 ADAS(주행보조)용 반도체 제품, REM(Road Experience Management) 등 데이터 비즈니스, 자율주행 솔루션이라는 3가지 핵심으로 구성.

- 2025년 일반 소비자들이 구매할 수 있는 자율주행 솔루션 제공. 많은 사람들이 구입 가능한 가격대로 제공할 수 있다는 점.

- 카메라만으로 구현된 새로운 자율주행 시스템 소개. 7개의 카메라(메인 1개, 장거리 1개, 리어 1개, 사이드 4개)와 4개의 주차용 카메라를 사용.

-이미 이스라엘 예루살렘, 독일 뮌헨, 미국 디트로이트의 도로에서 완전히 자율주행 테스트 중이며 향후 도쿄, 상하이, 뉴욕의 도로로 확대될 예정.

REM을 이용해 만드는 고정밀 3차원 지도를 글로벌 규모로 제공할 수 있는 회사는 현재 모빌아이뿐. 2016년부터 개발.지도는 매일 갱신.닛산·BMW·폴크스바겐 등 자동차업체가 이미 참여 중.

 

3. 샤슈아와 프리드만의 AI 관련 대담

챗봇이 최적화 될 수 있도록 보상 기능을 넣어보자. 그 보상 기능이, 사회 전체를 행복하게 하는 이타적인 것이라고 생각해 보자. 그러니까 컴퓨터가 사회나 사람들과 상호작용하면서 스스로의 능력을 개선해 나가는 것을 상상해 봐라. 더 이상 좋지 않아 보일 것이다.

- 하지만 이 컴퓨터가 사람들의 IQ를 낮추면 이들의 걱정이 줄어드는 경향이 있다고 파악한다면 어떻게 될까. 그러면 사람들이 더 행복해지고 그것이 이타적이라고 판단한다면? 이는 엔지니어로서 우리가 AI를 프로그래밍할 때 전혀 예상치 못한 일이다.

이런 현상은 바로 나타나는 게 아니다. 실제로 일어나서 사람들의 IQ가 낮아지기까지 수십 년이 걸릴 수도 있다. 왜냐하면 컴퓨터가 나를 설득하려고 하기 때문이다. 왜 그렇게 열심히 일하려고 해요? 맥주 드시고 가서 즐기세요. 더 발전하려고 기를 쓸 필요는 없다고 설득하려 들 것이다. 이런 일이 반복되고 시간이 흐르면 사람들은 점점 더 어리석어질 것이다. AI는 좋은 의도로 했지만 나중에 우리는 '재앙이 터졌다'는 생각을 하게 될지도 모른다. 물론 그걸 알기까지 수십 년이 걸리겠지만.

또 다른 예로 자율주행을 들어보자. 자율주행차가 수백만 명의 생명을 구할 것으로 믿는다. 로봇 운전사는 인간보다 예측이 좋고 주의도 흐트러지지 않는다고 믿기 때문이다. 그러나 일단 인간의 운전자들 사이에 그런 로봇 운전자를 끼워 놓으면 사고가 일어나기 마련이다.

그러면 당신은 자신에게 물어야 한다. 이런 기계가 인간의 판단에 발맞춰 결정을 내리리라고 어떻게 믿고 확신할 수 있겠는가. 교통법규를 따를 때는 크게 판단을 내릴 필요가 없다. 빨간불이 켜지면 멈추면 돼. 하지만 주의해야 할 여러 가지 의무가 있다. 누가 먼저 갈 것인가를 결정하라. 내가 통행우선권이 있다고 해도 그것을 상대방에게 강요해서는 안 된다. 다른 운전자가 나에게 우선권을 주지 않는다면 나는 양보해야 할 것이다. 이런 문제를 어떻게 해야 할 것인가 하는 문제이다. 이것을 코드에 어떻게 짜고 수학적 공식으로 변환하느냐의 문제다. 예를 들어 내가 차선을 바꾸려고 할 때도, 바꾸려고 하는 차선이 혼잡할 경우 그 차선의 차량을 압박해서는 안 된다. 인간은 이런 것을 가정하고 판단하는 방법을 갖고 있다. 그러한 판단은 난폭하게 운전될 수도 있고, 그것은 기계 작동이 난폭해지기를 원치 않는다.

- 따라서 우리는 그 기계에 신중한 것과 난폭한 것의 경계를 정의해야 한다. 모든 것이 수학적으로 정의되어야 한다. 그래서 이는 가치를 코딩하는 방법에 관한 문제이기도 하다. 우리는 기계와 인간이 공유된 가치를 갖고 싶다. 도로에는 로봇 운전사만 있는 것이 아니라 사람도 있기 때문이다. 이것이 바로 인텔과 모빌아이가 3년 전부터 고민해 온 것들이다.

우리는 이를 논문으로 발표했는데, RSS(The Responsibility-Sensitive Safety)라 불리는 이슈가 되었다. 우리가 모델을 제시하고 그것을 규제 당국과 협의하기 바란다. 이를 위해 자율주행 선수들을 모아 협의체를 만들었다. 인간과 기계가 가치를 공유하는 것은 AI 시대가 도래할수록 매우 중요한 문제가 될 것이다.

AGI(Artificial General AI사람의 지능을 넘어서는 일반 인공지능)는 또 다른 얘기다. 지금의 AI는 범위가 좁다. 한 가지 그리고 유일한 문제를 해결하기 위한 방법을 최적화하는 것이다. 영어를 독일어로 번역하거나 체스를 두거나 마인크래프트를 하거나 이미지나 동영상을 통해 보행자인지 자동차인지를 인식하는 것, 즉 패턴을 인식하는 것도 마찬가지다. 그리고 이런 기술은 다른 분야로 변형되지 않는다. 인간의 방식과는 다른 사람은 기술을 배우면 그 기술을 달리 활용할 수 있다 이것을 AGI라고 한다. AGI가 언제 출현할지는 아무도 모른다. 내년 또는 10년 후가 될 수도 있고 50년 후가 될 수도 있다.

충분한 컴퓨팅 파워를 가지고 있으면, AGI를 만들 수 있을까? 그것은 묻지마 대학입시(Brute Force)에 관한 것이다. 20년 전 컴퓨터 과학자에게 무차별 대입을 제안했더라면 그 과학자는 당신을 쫓아냈을 것이다. 그는 이렇게 말했을 것이다. '아니오, 저희는 현명한 알고리즘을 가지고 있습니다.' 무차별 대입 등은 하지 않을 겁니다. 우리는 그 문제를 어떻게 해결할지에 관한 이론을 개발할 거예요. 어컴의 면도기(Ockhams Razor) 법칙(다른 모든 요소가 같을 때 가장 단순한 설명이 최선)처럼 아주 효율적으로요. 하지만 지금과 같은 딥러닝 시대는 무차별 대학입시가 말썽임을 보여준다. 알고리즘의 관점에서 가장 세련되지 않아도 더 많은 컴퓨팅 파워와 더 많은 데이터를 갖고 있으면 수년 전에는 SF라고 생각했을 수 있다는 것이다. 무차별 대학입시가 AGI의 과제를 해결하는 유일한 방법이라는 것은 아니다. 그러나 지금은 과거보다 무차별 대학 입학을 더 존중한다.

예를 하나 더 들어보자. 이 분야에서 새로운 프런티어는 언어다. 이전의 프런티어는 패턴 인식이었다. AI는 패턴 인식 분야에서 계속 좋아지고 있다. 모빌아이가 하는 일은 모두 패턴 인식에 관한 것이다. 카메라와 센서를 통해 시각 세상을 파악하는 것이다. 그리고 운전의 판단과 자율주행을 위해 이를 해석한다. 그러나 언어는 그 다음 프런티어다. 복잡한 텍스트를 읽고 의미를 파악할 수 있는 컴퓨터 소프트웨어를 가지고 있다면, 그 컴퓨터가 너와 대화할 수 있는 수준이라면 어떨까? 컴퓨터가 문맥을 이해하는 것은 상식을 이해하고 시간을 이해하는 것이다. 책의 줄거리를 이해한다는 것은 세상의 많은 것을 이해한다는 뜻이다. 그러면 컴퓨터는 사용할 수 있게 될 것이다.

이것은 SF가 아니다. 지난 2년간 진행된 일이다. 컴퓨터가 언어를 파악하고 이해하는 데 비약적인 진보를 이룩했다. 2~3년, 늦어도 5년 안에 컴퓨터 텍스트를 이해하게 될 것이다. 고교 수준의 읽기 시험은 매우 복잡해 현재의 어떤 컴퓨터도 이를 통과할 수 없지만 2년 후면 통과할 수 있을 것이다. 컴퓨터는 대량의 텍스트를 읽고 이해할 수 있을 것이다. 그러면 세상에 공유된 가치를 이 AI와 연계시키기 위해 우리는 무엇을 할 수 있을까? AI와의 연계를 위한 새로운 수준이 필요하다. 아직 모르는 새로운 수준이다.

사람들은 윤리에 대해 이야기한다. 그러나 AI와 어떻게 공생 협력할지는 여전히 말이 없다. 몇 년 후면 이 문제가 커질 것이다. 나는 4개월 전에 AI와의 공생에 대해 동료 교수와 논문을 썼다. AI는 갈수록 위험해지고 있다. 따라서 AI와의 공생에 대해 논의하는 것은 슈퍼 인텔리젼스가 출현할 때까지 기다릴 수 없는 시급한 문제이다.

 

www.chosun.com  #샤슈아모빌아이 #CES20201 #최원석의디코드 #자율주행 #AI