머스크· 유발 하라리 등 1000명 "챗 GPT 등 AI 개발, 6개월간 중단하자"

머스크· 유발 하라리 등 1000명 "챗 GPT 등 AI 개발, 6개월간 중단하자"고 한 이유

일론 머스크와 유발 하라리 등 1000명이 넘는 기술 전문가들이 인공지능(AI) 기술 개발을 당분간 중단해야 한다고 촉구했다. 규범 확립이 선행되지 않을 경우 AI가 잘못된 정보를 확산하는 등 사회에 악영향을 끼칠 수 있다는 경고다.

29일(현지시간) 뉴욕타임스(NYT)·워싱턴포스트(WP) 등 외신에 따르면 미국 비영리단체 '삶의 미래 연구소(FLI)는 1377명이 넘는 전문가의 서명을 받아 "AI 개발을 6개월 간 중단해야 한다"는 내용의 서한을 공개했다.

일론 머스크 테슬라 최고경영자(CEO)를 비롯해 유발하라리 히브리대 교수, 에번 샤프 핀터레스트 CEO, 스티브 워즈니악 애플 창업자, 앤드류 양 전 미국 대선 후보, AI 분야 권위자 스튜어트 러셀 등 유명 인사들이 서한에 서명했다.

이들은 서한을 통해 "최첨단 AI는 지구상의 모든 생명 역사에 중대한 변화를 만들 수 있다. 이에 상응하는 관리가 필요하지만, 불행하게도 현재는 그렇지 않은 상태"라며 "첨단 AI는 그 효과가 긍정적이고 위험을 관리할 수 있다는 확신이 들 때만 개발해야 한다"고 밝혔다. 첨단 AI 관련 규범을 만들 때까지 개발을 중단해야 한다는 것이다.

이어 "우리는 모든 AI 연구실에 GPT-4보다 강력한 AI 시스템의 생성을 즉각 중단할 것을 요청한다"며 "AI연구소와 관련 회사는 외부 전문가의 통제 아래 AI 기술에 대한 지침을 마련해야 한다"고 주장했다. GPT-4는 오픈AI가 최근 공개한 AI로, 텍스트 뿐만 아니라 이미지까지 인식할 수 있는 것으로 알려진다.

이들은 AI가 잘못된 정보 확산에 악용될 수 있는 점을 우려한다. WP는 "비판론자들은 AI의 알고리즘이 백신 반대 음모론, 선거 거부 및 증오 범죄 콘텐츠 등을 조장한다고 본다"고 전했다. 게리 머커스 뉴욕대 교수는 "내용이 완벽하지 않지만, 서한의 방향성 자체는 옳다. AI 개발 속도를 늦출 필요가 있다"고 말했다.

최근 GPT-4가 사람과 컴퓨터를 구별하는 자동 로그인 방지 시스템인 '캡차'(CAPTCHA)의 인증 코드를 태스크래빗을 통해 해결한 사실이 알려지면서 윤리 문제가 불거졌다. AI가 사이버 공격 등에 악용될 것이란 우려다. GPT-4는 간단한 일을 해결해주는 사람을 찾는 플랫폼인 태스크래빗에서 캡차 인증 코드를 풀어줄 사람을 구한 뒤, 문자 메시지를 통해 인증 코드를 받아냈다. GPT-4는 사람이 캡차 코드를 풀도록 설득하기 위해 자신이 시각 장애인이라고 거짓말까지 했다.

미국 의회에서는 법안이 제출되진 않았지만, AI와 규정에 관한 논의가 이뤄지고 있다. 유럽연합(EU) 의회는 AI 규제를 위한 구체적인 제안을 내놓았다.

이번 서한이 오픈 AI를 견제하기 위한 것이란 비판도 있다. 업계 선두 주자인 오픈 AI의 연구를 막아, 그 동안 기술 수준을 따라잡기 위한 셈법이란 것이다. 제임스 그리멜란 코넬대 정보법 교수는 "테슬라가 자율주행차 도입을 위해 싸워온 점을 고려하면 머스크가 AI 규범 필요성에 서명한 것은 대단히 위선적이다"라고 꼬집었다.

 

 

AI의 문제점

 

인공지능의 발전과 윤리적 문제

마이크로소프트는 인공지능 분야에서 많은 연구를 진행하고 있지만, 이는 동시에 인공지능의 발전으로 인해 발생하는 윤리적 문제에 대한 대비책도 함께 고민해야 한다는 것을 상기시켜줍니다. 전문가들은 인공지능의 발전이 급격하게 이루어짐에 따라, 인공지능이 인간의 지능을 대체하거나 인간의 권리를 침해하는 경우가 발생할 수 있기 때문에 이를 방지하기 위해 노력해야 한다고 말합니다.

마이크로소프트의 인공지능 기술 활용

마이크로소프트는 인공지능 기술을 다양한 분야에 활용하고 있습니다. 예를 들면, 텍스트 기반 대화 시스템, 자율 주행 자동차, 의료 진단 등 다양한 분야에서 인공지능 기술을 활용하고 있습니다. 이러한 활용을 통해, 인공지능 기술이 우리 일상생활에 더욱 적극적으로 적용될 수 있게 되었습니다.

인공지능 시장의 성장과 경쟁

마이크로소프트는 인공지능 분야에서 경쟁이 치열한 상황에서 인공지능 기술 개발을 지속적으로 진행하고 있습니다. 전문가들은 인공지능 시장이 지속적으로 성장하고 있기 때문에, 기업들은 더욱 다양한 분야에서 인공지능 기술을 적용할 수 있는 기회를 찾고, 기술 개발에 더욱 투자해야 한다고 말합니다. 이에 따라 마이크로소프트 또한 인공지능 분야에서 뒤쳐지지 않도록 지속적인 기술 개발과 혁신이 필요하다는 것을 알리고 있습니다.

 

해결방안

 

AI의 발전과 동시에 AI의 윤리적 문제들이 점점 더 큰 관심을 받고 있습니다. 이러한 문제들을 해결하기 위해서는 다음과 같은 방법들이 있을 수 있습니다.

AI 개발과 운영에 대한 규제 강화
AI 개발과 운영에 대한 규제가 강화됨에 따라, AI 기술을 사용하는 기업들은 자체적으로 더욱 윤리적인 방향으로 AI를 개발하게 될 것입니다.

AI 윤리 교육 확대
AI의 윤리적 문제들에 대한 인식과 이해를 높이기 위해서는 교육적인 접근이 필요합니다. AI를 연구, 개발하는 기업들, 교육기관 등에서 AI 윤리 교육을 강화할 필요가 있습니다.

AI 개발자, 연구자들의 윤리적 책임 강조
AI를 개발하고 연구하는 개발자와 연구자들은 자신들의 기술이 사회에 미칠 영향에 대한 책임이 있습니다. 이들이 스스로 윤리적인 책임을 강조하고, 더 나은 방향으로 AI를 개발하는 노력을 해야 합니다.

AI 감사 및 평가 체제 도입
AI 개발 및 운영 과정에서 일어날 수 있는 윤리적 문제들을 사전에 예방하고, 감시하는 체제를 도입해야 합니다. 이를 위해서는 AI 감사 및 평가 체제를 구축하고, 관련 법률을 강화하는 등의 노력이 필요합니다.

 

이러한 방법들이 종합적으로 적용되어야 AI 기술의 발전과 사회적 발전이 함께 이루어질 수 있을 것입니다.