인공지능

인공지능의 아이러니는 그것을 구축하기 위해 인간의 두뇌 파워가 얼마나 필요한가 하는 것이다. 3년 동안, 우리의 다음 손님은 매사추세츠 대학교에서 국방고등연구계획국에 대출되어 있었다. DARPA 인공지능 프로젝트 몇 개를 주도했대 이제 그녀는 높은 영예인 공로훈장을 받았다. 하바 시겔만 박사는 더 많은 것을 위해 톰 테민과 함께 Federal Drive에 가입했다. 하바 시겔만 박사: 물론이지. 사실 두 군데 다른 사무실에 있었어. 내가 처음 도착한 사무실은 하드웨어용 MTO였고, 약 2년 후에 나는 정보혁신 I2O로 옮겼다. 하지만 지금까지 해왔던 일들에 대해 말해줄게. 나는 주제가 평생학습이라고 불리는 프로그램이라고 생각해. 우리는 그것을 L2M이라고 부른다. 그래서 내가 이 문제의 핵심을 간단히 설명해 볼게. 그래서 우리는 어디에서나 AI가 하는 소리를 듣습니다, 모든 사람들이 AI로 무언가를 하고, 이미지를 분류하고, 이런 종류의 것을 — 하지만 오늘날 AI의 정점은 아마도 여러분이 모든 종류의 것들을 필요로 하는 자가용입니다. 모터 부분과 센서와 모터의 시각적인 부분이 매우 스마트한 프로그래밍과 많은 예로부터 학습을 함께 하고 있다. 그런데 정상인 자가운전 차량을 봐도 아직 많이 쓰이지 않은 것을 보면 실패하는 것을 볼 수 있다. 가끔 사고가 발생하기도 하고, 만약 자가 주행의 일부가 있는 차가 너무 적어서 사고가 난다고 상상해 보십시오. 만약 우리가 많은 자동차가 있다면 어떻게 되는지 상상해 보십시오. 그리고 이것이 바로 현재의 AI 기술의 약점이다. 단점은 이 AI를 코딩하고 훈련시켜 한 번 조작하면 냉동상태라는 것이다. 그래서 바깥에서 운전하는 경험을 할 수 있고, 다른 곳으로 가는 경험을 할 수 있지만, 사실 그것은 네가 잘 해냈기 때문에 얼어붙은 것이다. 아시다시피, 우리는 때때로 AI가 경험에 따라 더 나은 문장을 들을 수 있다. 이 경험은 경험이 아니라 누가 미리 자료를 준비했느냐의 경험이다. 톰 테민: 알았어. 좋아, 왜냐하면 당신은 종종 인공지능을 호객하는 사람들의 적응력이 인공지능의 적응력이라는 말을 듣기 때문이다. 하지만 네가 말하는 것은 적응이 실제로 이루어지기 전에 일어났다는 것처럼 들린다. 하바 시겔만 박사: 우리는 실제로 그것을 훈련 시간 또는 훈련 단계, 그리고 야전 시간 또는 야전 단계라고 부른다. AI는 때때로 명확하지 않거나, 때로는 명확하지 않게 나오기도 하지만, 실제로 훈련 단계가 끝난 후에는 일단 그것이 컴퓨터 작업을 시작하기를 원하며, 그것이 바로 그것이다. 그리고 가장 큰 결점은 만약 여러분이 실제 세계 응용을 위해 무언가를 원한다면, 여러분은 그것을 만일의 사태에 대해 훈련시킬 수 없다는 것이다. 그래서 우리는 AI가 컴퓨터 게임에서 매우 잘한다고 본다. 화면이 정확히 같을 때, 화면을 조금 바꾸려고 노력해라. 밝기를 바꾸면 실패할 수 있다. 그래서 여러분이 그것을 밖으로 가져갈 때, 그래서 자가 운전 자동차들이 많은 노력을 기울이는 겁니다. 왜냐하면 자동차들은 여전히 꽤 잘 작동하지만, 여러 번 안전하지 않기 때문이지요. 그래서 L2M이 해결해야 할 것은 오늘날 우리가 AI와 가지고 있는 안전문제 입니다. 그리고 만약 당신이 정말로 AI를 사용하기를 원한다면, 우리는 반년 전에 훈련된 것에 의존할 수 없으며, 그것을 계속할 수 없다. 톰 테민: 그럼 평생학습 프로젝트는 인공지능 알고리즘이 일단 현장에서 학습되면 계속 학습하게 하는 방법이었단 말인가? 하바 시겔만 박사: 네. 그래서 이것은 정말 큰 발전이었습니다. 그래서 L2M이 자율주행차로 온다면, 갈 준비가 되어있다. 하지만 실제로 보이는 것을 사용하고, 자신이 운전하는 도로와, 그것들을 통합하고, 실제로 다음 단계에 바로 사용해야 하는 경험을 사용하게 된다. 그래서 또 다른 흥미로운 부분이 있다 하더라도 L2M은 갈수록 점점 더 전문가로 변한다고 한다. 그래서 만약 여러분이 차를 가지고 있고, 눈과 얼음 위를 운전한다면, 더 많은 운전과 함께, 더 나아질 것이다. 그래서 그것은 실제로 더 나아지기 위해 그것을 통합하기 위해 그것을 사용한다. 그래서 어떻게 해야 할지 모르는 이런 지점들은 거의 들어가지 않는데, 왜냐하면 그것은 이미 우리를 그 지점으로 이끌었던 모든 종류의 일들을 했기 때문이다. 그래서 그것은 매우 강력한 종류의 AI 입니다. 그리고 제 말이 무슨 말인지 아시죠? 저는 자율주행 자동차의 예를 들자면 우리가 L2M을 만드는 방법이 핵심 기술이라고 생각해 보십시오. 그리고 나중에 우리는 응용 프로그램에 대해 이야기 할 겁니다. 하지만 핵심 기술인, 우리가 재정 예측이나 비행기의 의료 실험에 사용할 수 있는 것과 같은 핵심 기술인, 제 말은, 사람들이 커피 주문서나 어떤 이미지와 함께 온다고 상상해 보십시오. 이제 바이러스를 식별하기 위해 — 시간이 지남에 따라 약간의 변화가 일어나고 있고, 시스템은 아무런 가치도 없는 겁니다. 톰 테민: 그리고 나는 군사적인 신청이 있었을 거라고 생각해, 아마 그것에 대해 말할 수 없을 거야. 그러나 자율적인 차량과 자율적인 무기의 큰 관심사 중 하나가 안전성과 그들이 내리는 결정에 대한 감사성이라는 것을 알고 있기 때문에 DoD는 자기 학습 시스템에 관심이 있었을 것이다. 그래서 그게 이 모든 노력의 일부였을까? 하바 시겔만 박사: 네. 그리고 우리가 GUD라고 부르는 질문과 관련이 있을 수 있는 다른 프로그램이 있는데, 그것은 “AI의 기만에 대한 강건성 보장”의 약자 입니다. 그러니까 온라인에서 배우고 있기 때문에 강해지기 위해서뿐만 아니라 사람들이 당신을 속이기 위해 온다고 하더라도 당신은 이 강건함을 제공하는 데 있어서 무엇이 진짜고 무엇이 속임수인지에 초점을 맞추고 있는 것인데, 그것은 두 번째 프로그램이다.톰 테민: 그리고 이 모든 프로그램을 어떻게 진행하셨나요? DARPA에 직원이 있었나, 학생과 인턴을 데려왔나? 내 말은, 어떻게 이런 성공을 거둘 수 있을까? 하바 시겔만 박사: 그래, DARPA가 일하는 방식은 프로그램 매니저가 있어. 모든 프로그램 매니저 주변에는 여러 곳에서 온 지원 요원들이 있어. 이미 준비됐으니 원한다면 너도 네 사람을 고용할 수 있어. 나도 내 사람을 고용해. 하지만 대부분의 사람들은 이미 그곳에 있다. 그리고 실험실에서 사람들을 훈련시키는 것처럼 그들을 훈련시키고, 그들은 여러분과 함께 성장하고, 프로그램을 통해, 여러분은 그것을 하기 위해 반드시 그룹의 사람들이 필요하다. 하바 시겔만 박사: 그래, 그래. 방금 여기서 ‘평생학습’은 사실 재정적인 초점뿐만 아니라 가입자의 수 측면에서 보면 굉장히 큰 프로그램이라는 평이 있었다. 그것은 현존하는 가장 큰 프로그램 중 하나이다. 그래서 우리는 DARPA에서 우리를 돕기 위해 상당한 규모의 그룹이 필요했다. 그리고, 아시다시피, 우리는 미국의 최고 연구원들과 몇몇의 미국 밖에서도 그래서 L2M은 여기서 함께 일하기 위해 모인 최고의 연구자들에게 정말 큰 공로가 되고 있다.톰 테민: 그리고 이것은 주로 소프트웨어 작업이었죠? 네가 주도하고 실행한 활동은 코딩한 다음 데이터를 즉석에서 공급하고 그것이 제대로 반응하는지 보는 거였어. 내 말은, 난 단순화 하고 있지만, 그게 기본적으로 네가 하고 있던 일인가? 하바 시겔만 박사: 네가 그렇게 말하니 좋구나. 그래서 L2M은 하드웨어 사무소인 MTO에서 나오는 프로그램이다. 프로그램 자체는 주로 소프트웨어에 초점이 맞춰져 있지만, 우리가 생각하는 방식은 이미 그것을 가지기 위해 다음에 필요할 하드웨어의 종류에 관한 것이다. 톰 테민: AI의 하드웨어 당면 과제는 무엇인가? 왜냐하면, 내 생각에 대부분의 사람들은 프로세서의 다른 소프트웨어처럼 작동한다고 생각하기 때문이다. 하바 시겔만 박사: 그래서 현재 AI용 하드웨어는 매트릭스를 매우 빠르게 증식할 수 있는 하드웨어들이다. 그래서 심층신경망은 많은 숫자를 바삭바삭하는 것만으로 빠르게 이루어질 수 있을 것이다. 평생학습에 대해 이야기할 때, 변화를 지원할 수 있는 하드웨어, 하드웨어의 종류에 대해 생각하게 된다. 우리는 이것을 평생학습 하드웨어라고 부른다. 그리고 우리는 이 하드웨어에 대한 평생학습이 시작된 이래로 기업들과 실제로 생각하고, 설계하고, 접촉하고 있다. 톰 테민: 그리고 이 모든 것에 대해, 당신은 공로훈장을 받았다. 그건 국방부의 최고 시민 명예야 그건 어때? 하바 시겔만 박사: 난 매우 놀랐고, 아주 자랑스러워 왜냐하면 난 이 나라를 사랑하고, 우리 모두처럼, 그리고 그들이 가진 전문지식을 가지고 있다는 것을 그들이 인정하게 되어 너무 기뻐 그리고 실제로 그렇게 긍정적인 무언가로 바꾼다. 톰 테민: 그리고 이제 매사추세츠 대학교로 돌아가게 되었으니, 소프트웨어 교수가 되시겠습니까, 하드웨어가 되시겠습니까, 아니면 L2M이 되시겠습니까? 하바 시겔만 박사: 나는 지난 수년간 그곳의 연구실을 지휘하고 있는데, 신경과학과 컴퓨터 과학의 결합을 살펴보고 있다. 그 얘기로 다시 돌아가보죠, 하지만 어떻게 보면, 제가 가지고 온 일종의 새로운 종류의 지식들이 있습니다, 제 생각에 그들은 이제 막 존재하기 시작한 AI에 대해 배울 수 있도록 대학원생들에게 일종의 지원을 제공할 수 있을 겁니다. 톰 테민: 사실 최근에 일부 연구자들과 인터뷰를 했는데 AI 학위 취득 동기, 최근 학위 취득 동기 등을 살펴본 적이 있는데 문제는 AI 학위 취득 후 이 사람들에게 어필할 수 있는 공익활동이 어떻게 이루어 질 수 있느냐는 것이었습니다. 하바 시겔만 박사: 그래, 너도 알다시피, 나는 그들이 최고의 연구자일 뿐만 아니라 그들이 하는 것을 좋은 것으로 받아들이고 싶어하는 사람들과 함께 일했다는 점에서 믿을 수 없는 시간을 보냈다고 말할 수 있어. 그래서 사람들은 뇌로 다른 것들을 하기를 원한다. 그리고 주로 돈, 즉 돈에 초점을 맞추면 한 가지 방법이 있지만, 연방세계에 가면 너무나 많은 사람들과 많은 기업을 만나게 되므로 정말로 이런 방향으로 가고 싶다면 그렇게 할 수 있다. 그리고 이쪽에 대해 말하자면, 나는 이미 UMass에서 수년간 주요 기술 회사들과 상담을 해왔고 대학들은 그것을 허용하고 있다. 그래서 AI와 AI의 장점을 여기에 가져올 수 있는 방법은 여러 가지가 있지만, 나는 분명히 공익활동 대변인이다. 톰 테민: 하바 시겔만 박사는 전 DARPA의 프로그램 디렉터로, 지금은 매사추세츠 대학교의 교수직으로 복귀했다. 나와 함께 해줘서 정말 고마워.

인공지능

댓글 남기기

이메일은 공개되지 않습니다. 필수 입력창은 * 로 표시되어 있습니다