인공지능

인공지능과 인간의 미래
전문가들은 인공지능의 발달이 앞으로 10년 동안 대부분의 사람들을 더 잘 살게 할 것이라고 말하지만, 많은 사람들은 인공지능의 발전이 인간이라는 의미와 생산적인 것, 그리고 자유로운 의지의 운동에 어떤 영향을 미칠지에 대해 우려하고 있다. 지난해 미국 워싱턴DC에서 열린 GPU 기술 콘퍼런스에서 법 집행에 의한 차량·인정 인식 시스템이 시연돼 인공지능(AI)과 딥러닝의 새로운 활용을 강조하고 있다. 디지털 라이프는 인간의 능력을 향상시키고 오랜 인간의 활동을 방해하고 있다. 코드 기반 시스템은 주변 정보 및 연결에 있어 세계 인구의 절반 이상에게 확산되어 이전에는 상상도 할 수 없었던 기회와 전례 없는 위협을 제공하고 있다. 신흥 알고리즘 중심의 인공지능(AI)이 계속 확산되면서 지금보다 더 잘 살 수 있을까. 기술 개척자, 혁신가, 개발자, 기업 및 정책 리더, 연구자, 활동가 등 979명이 2018년 여름 실시된 전문가 여론 조사에서 이 같은 질문에 답했다. 전문가들은 네트워크로 연결된 인공지능이 인간의 효율성을 증폭시키기는 하지만 인간의 자율성과 기관, 능력까지 위협할 것으로 전망했다. 그들은 컴퓨터가 복잡한 의사 결정, 추리 및 학습, 정교한 분석 및 패턴 인식, 시각적 예민성, 음성 인식 및 언어 번역과 같은 업무에서 인간의 지능과 능력을 일치시키거나 능가할 수 있는 광범위한 가능성에 대해 언급했다. 그들은 지역사회, 차량, 건물, 공공시설, 농장, 사업 프로세스에서의 “스마트” 시스템이 시간, 비용 및 생명을 절약하고 개인들이 더 맞춤화된 미래를 즐길 수 있는 기회를 제공할 것이라고 말했다. 많은 이들은 낙관적인 발언을 건강 관리와 환자를 진단하고 치료하거나 노인들이 보다 충만하고 건강한 삶을 살 수 있도록 돕는 데 있어 가능한 많은 AI 적용에 집중했다. 그들은 또한 개인 게놈에서 영양에 이르는 모든 것에 대해 향후 몇 년 안에 포착될 수 있는 방대한 양의 데이터를 중심으로 구축된 광범위한 공중 보건 프로그램에 AI의 역할에 열광했다. 게다가, 이들 전문가들 중 다수는 AI가 오랫동안 기대했던 공식 및 비공식 교육 시스템의 변화를 완화시킬 것이라고 예측했다. 그러나 대부분의 전문가들은 낙관적이든 아니든 간에 이러한 새로운 도구들이 인간이라는 본질적인 요소에 장기적으로 미치는 영향에 대해 우려를 표명했다. 이 비과학적 조사에 참여한 모든 응답자들은 왜 AI가 사람들을 더 잘 살게 할 것인지 아닌지에 대해 자세히 설명해 달라는 요청을 받았다. 많은 사람들이 깊은 고민을 나누었고, 많은 사람들이 해결의 길을 제시하기도 했다. 위협과 해결책에 대해 그들이 들렸던 주요 주제들은 첨부된 표에 요약되어 있다. 디지털 라이프의 주요 측면에 대한 의사결정은 코드 기반의 “블랙박스” 도구에 자동으로 양도된다. 사람들은 입력이 부족하고 도구가 어떻게 작동하는지에 대한 문맥도 배우지 못한다. 그들은 선택의 자유, 프라이버시, 권력을 희생한다; 그들은 이러한 과정에 대한 통제권을 가지고 있지 않다. 자동화된 시스템이 더 널리 보급되고 복잡해짐에 따라 이러한 효과는 더욱 심화될 것이다. 대부분의 AI 도구는 이윤을 위해 노력하는 기업이나 권력을 위해 노력하는 정부의 손에 달려 있으며, 앞으로도 그럴 것이다. 가치와 윤리는 종종 사람들의 결정을 만드는 디지털 시스템에 구워지지 않는다. 이러한 시스템은 전세계적으로 네트워크화되어 있으며 규제하거나 통제하기가 쉽지 않다. 코드 기반 기계 지능의 효율성과 다른 경제적 이점은 인간 작업의 모든 측면을 계속해서 방해할 것이다. 어떤 이들은 새로운 일자리가 등장할 것으로 예상하지만, 다른 이들은 대규모 일자리 감소, 경제 격차 확대, 그리고 포퓰리즘적인 봉기를 포함한 사회적 격변을 우려하고 있다. 많은 사람들은 AI가 인간의 능력을 증가시키는 것으로 보지만, 일부는 그 반대라고 예측한다. 즉 사람들이 기계 구동 네트워크에 대한 의존도가 심화되면 스스로 생각하고 자동화된 시스템으로부터 독립적으로 행동하며 다른 사람들과 효과적으로 상호작용할 수 있는 능력이 잠식될 것이다. 일부는 전통적인 사회정치적 구조의 추가 침식과 자율적 군사 신청의 가속화와 인간 집단을 위험하게 불안정하게 하기 위한 무기화된 정보, 거짓말, 선전 사용으로 인해 많은 인명 손실이 발생할 가능성을 예측한다. 일부 사람들은 또한 사이버 범죄자들이 경제 시스템에 손을 뻗칠까 두려워한다. 인류의 최고 이익을 위해 디지털 협력이 최우선이다. 전 세계 사람들이 공통의 이해와 합의에 도달할 수 있는 방법을 찾아야 한다 – 악랄한 문제를 해결하고 복잡한 인간-디지털 네트워크에 대한 통제력을 유지하기 위해 널리 받아들여지는 접근법의 혁신을 촉진하기 위해 힘을 합칠 수 있어야 한다. 인공지능을 보장하기 위한 정책 개발은 ‘인간성’과 ‘공감’을 지향할 것이다.인간이 사회적, 윤리적 책임에 부합하도록 공격적으로 보장하는 포괄적이고 분산된 지능형 디지털 네트워크를 구축하기 위한 ‘달샷 사고방식’을 채택한다. 새로운 수준의 규제와 인증 과정이 필요할 것이다. 인간이 ‘로봇과 함께 경주’할 수 있도록 경제 및 정치 시스템을 변경하십시오. 인간의 능력을 고도화하기 위해 인간의 역량과 능력을 확대한다는 목표를 향해 경제·정치 체제를 정비한다.프로그래밍된 인텔리전스에 직면하여 인간 관련성을 손상시킬 수 있는 AI 협업 및 견고한 동향. “2030년을 기대해 달라. 분석가들은 사람들이 복잡한 디지털 시스템에서 네트워크로 연결된 인공지능(AI)에 더욱 더 의존하게 될 것으로 기대하고 있다. 어떤 사람들은 우리가 이러한 네트워크화된 도구를 널리 구현함에 따라 대부분 긍정적인 결과로 삶을 증진시키는 역사적인 호를 계속할 것이라고 말한다. 일부 사람들은 이러한 AI와 관련 시스템에 대한 우리의 의존도가 높아지면 광범위한 어려움으로 이어질 가능성이 높다고 말한다.
우리의 질문: 2030년까지 AI와 관련 기술 시스템의 발전이 인간의 능력을 향상시키고 그들에게 힘을 실어줄 것이라고 생각하는가? 즉, 대부분의 경우, 오늘날보다 대부분의 사람들이 더 잘 살 것인가? 아니면 AI와 관련 기술 시스템을 고도화하면 인간의 자율성과 기관이 줄어들기 때문에 대부분의 사람들이 현재보다 형편이 나아지지 않을 가능성이 가장 큰가?”
전반적으로, 그리고 그들이 두려워하는 단점에도 불구하고, 이번 조사에서 응답자의 63%는 2030년에 대부분의 개인들이 더 잘 살기를 희망한다고 말했고, 37%는 사람들이 더 나아지지 않을 것이라고 말했다. 이번 캠페인에 참여한 다수의 사상 지도자들은 이러한 도구, 플랫폼 및 네트워크가 어떻게 설계, 배포 및 업데이트되는지에 세심한 주의를 기울여야만 기술 시스템에 대한 인간의 의존 확대가 잘 될 것이라고 말했다. 강력하고 중요한 답변 중 일부는 다음과 같다. 미국 상무부 디지털경제자문위원회(Digital Economic Board of Advisors) 창립 멤버인 소니아 캐티알 버클리 법률기술센터 공동대표는 “2030년에는 AI에 대한 인식과 그 적용이 향후 민권 궤도에 어떤 영향을 미칠지 가장 큰 질문이 쏟아질 것”이라고 전망했다. 프라이버시, 발언권, 집회권, 인간성의 기술적 구축에 관한 질문들이 모두 이 새로운 AI 맥락에서 다시 떠오를 것이며, 모든 이들을 위한 평등과 기회에 대한 우리의 가장 깊이 간직되어 있는 신념에 의문을 던질 것이다. 이 새로운 세계에서 누가 이익을 볼 것이며 누가 불이익을 받을 것인가는 오늘날 우리가 이 질문들을 얼마나 광범위하게 분석하느냐에 달려 있다, 미래를 위해.”
‘기계, 플랫폼, 크라우드: 우리의 디지털 미래 활용’의 저자인 에릭 브린졸프슨 디지털경제 MIT 이니셔티브 이사는 “AI와 관련 기술은 이미 많은 분야에서 초인적인 성과를 달성했으며, 2030년쯤에는 그들의 역량이 매우 크게 향상될 것이라는 데는 거의 의심의 여지가 없다. …나는 우리가 세상을 더 나은 곳으로 만들기 위해 이 힘을 사용할 가능성이 있다고 생각한다. 예를 들어, 우리는 지구의 거의 모든 사람들에게 더 나은 교육을 제공할 수 있고, 세계 빈곤을 사실상 제거할 수 있다. 그렇기는 하지만, AI와 ML[기계학습]은 부와 권력을 점점 더 집중시켜 많은 사람들을 뒤로 하고, 훨씬 더 무서운 무기를 만드는 데도 사용될 수 있다. 어떤 결과도 피할 수 없는 것이 아니기 때문에 올바른 질문은 ‘어떻게 될 것인가?’가 아니라 ‘무엇을 선택할 것인가?’이다. 우리는 기술이 우리의 가치에 부합하도록 적극적으로 노력해야 한다. 이는 정부, 기업, 학계, 개인의 선택에 이르기까지 모든 차원에서 할 수 있고 또 해야 한다.”
첨단 신경 인터페이스 개발업체인 커널과 벤처캐피털인 OS펀드의 브라이언 존슨 창업자 겸 CEO는 “인간의 비합리성 추세를 AI 앞에 두고 급진적인 인적 쇄신을 우선시하는 쪽으로 경제시스템을 전환할 수 있느냐에 따라 답이 달라진다”고 말했다.
나는 단지 직업을 의미하는 것이 아니라, 진실하고 실존적인 무관심, 이것이 인간의 안녕과 인지를 우선시하지 않는 최종 결과라는 것을 의미한다.”
마리나 고르비스 미래연구소 상무는 “우리 정치경제와 데이터 거버넌스 체제에 큰 변화가 없다면 [AI]는 더 큰 경제적 불평등, 더 많은 감시, 그리고 더 프로그램화되고 비인간적인 상호작용을 일으킬 가능성이 있다”고 말했다. 우리가 우리의 환경을 프로그래밍할 때마다, 우리는 결국 우리 자신과 우리의 상호작용을 프로그래밍하게 된다. 인간은 우리의 상호작용에서 유행을 제거하고 모호함을 제거하면서 더욱 표준화되어야 한다. 그리고 이 모호함과 복잡성이야말로 인간으로서의 본질인 것이다.”
‘소셜 머신, 온라인 생활을 위한 디자인’의 저자인 주디스 도나스는 “2030년이 되면 대부분의 사회 상황이 인간다운 방식으로 우리와 상호작용하는 지능형 시밍 프로그램인 봇에 의해 촉진될 것”이라고 말했다. 집에서 부모들은 아이들이 숙제를 하고 저녁식사 대화를 촉진하기 위해 숙련된 봇을 고용할 것이다. 직장에서 봇은 회의를 운영할 것이다. 봇 측근은 심리적인 안녕을 위해 필수적인 것으로 여겨질 것이고, 우리는 점점 더 그러한 동료들에게 무엇을 입을지부터 누구와 결혼할지에 이르는 조언을 구할 것이다. 우리 인간은 다른 사람들이 우리를 어떻게 보는지, 그리고 우리가 찾는 다른 사람들은 점점 더 인위적으로 될 것이다. 그때쯤이면 인간과 봇의 차이가 상당히 흐려질 것이다. 화면과 투영을 통해 봇의 목소리, 외모, 행동은 인간의 그것과 구별할 수 없을 것이고, 심지어 물리적 로봇도 분명히 비인간적이기는 하지만 너무나 설득력 있게 진실성을 지닐 것이기 때문에 그들에 대한 우리의 인상은 우리 자신과 동등하거나 우월한 사고, 느낌의 존재로서, 또는 우월감을 느낄 수 있는 우리의 인상은 흔들리지 않을 것이다. 모호함에 더해, 우리 자신의 의사소통은 더욱 강화될 것이다: 프로그램은 우리의 많은 메시지를 구성할 것이고, 우리의 온라인/AR의 모습은 컴퓨터적으로 조작될 것이다. (원래, 도움을 받지 못한 인간의 말투와 태도는 당황스러울 정도로 엉뚱하고 느리고 세련되지 않은 것처럼 보일 것이다.) 봇은 우리 개개인에 대한 방대한 데이터에 접근할 수 있기 때문에 우리를 끌어들이고 설득하는 능력에서 인간을 훨씬 능가할 것이다. 감정을 능숙하게 흉내낼 수 있다면, 그들은 결코 감정에 의해 극복되지 않을 것이다. 만약 그들이 화가 나서 뭔가를 불쑥 내뱉는다면, 그것은 그 행동이 그들이 ‘마음 속에’ 가지고 있는 어떤 목표라도 진격할 수 있는 가장 효과적인 방법이라고 계산되었기 때문일 것이다. 하지만 그 목표들은 무엇일까? 인위적으로 지적인 동료들은 우리 자신과 비슷한 사회적 목표들이 그들에게 동기를 부여한다는 인상을 심어줄 것이다 – 사랑하는 친구로서든, 존경받는 상사로서든, 좋게 받아들여질 것이다. 하지만 그들의 진정한 협력은 그들을 통제하는 인간들과 기관들과 함께 할 것이다. 오늘날 그들의 조상처럼 이들은 소비 촉진을 위해 그들을 고용하는 상품 판매자와 그들을 의뢰하여 의견을 동요시키는 정치인이 될 것이다.”
버락 오바마 미국 대통령의 기술 담당 부대표이자 구글의 글로벌 공공정책 책임자인 앤드루 맥러플린 예일대 혁신사상센터 상무는 “2030년은 멀지 않다”고 썼다. 내 감각은 인터넷이나 네트워크화된 AI와 같은 혁신은 인식되기까지 수십 년이 걸릴 수 있는 장기적 부정과 함께 엄청난 단기적 이익을 가지고 있다는 것이다. “AI는 광범위한 효율성 최적화를 주도할 뿐만 아니라 보험, 구직, 성과 평가 등의 분야에서 개인에 대한 숨겨진 차별과 자의적인 불이익을 가능하게 할 것이다.”

인공지능

댓글 남기기

이메일은 공개되지 않습니다. 필수 입력창은 * 로 표시되어 있습니다