마크 주커버그(Mark Zuckerberg)는 인간 수준의 지능과 동등한 강력한 AI 시스템을 구축하겠다고 약속한 후 인공 지능에 무책임한 접근 방식을 취했다는 비난을 받았습니다. 페이스북 창립자는 또한 이를 대중에게 무료로 제공할 가능성도 제기했습니다.
Meta CEO는 회사가 인공 일반 지능(AGI) 시스템을 구축하고 이를 오픈 소스로 만들려고 시도할 것이라고 말했습니다. 이는 회사 외부 개발자가 액세스할 수 있음을 의미합니다. 그는 시스템이 “책임감 있게 가능한 한 널리 사용 가능하도록” 만들어져야 한다고 덧붙였습니다.
저커버그는 페이스북 게시물에서 차세대 기술 서비스를 위해서는 “완전한 일반 지능 구축이 필요하다”는 것이 분명하다고 말했습니다.
AGI는 엄격하게 정의된 용어는 아니지만 일반적으로 인간과 같거나 그 이상의 지능 수준에서 일련의 작업을 수행할 수 있는 이론적 AI 시스템을 의미합니다. AGI의 잠재적인 출현은 그러한 시스템이나 여러 AGI 시스템의 조합이 인간의 통제를 피하고 인류를 위협할 수 있다는 것을 두려워하는 전 세계 전문가와 정치인을 놀라게 했습니다. Zuckerberg는 Meta가 AGI를 오픈 소스로 만들거나 무료로 사용할 수 있도록 고려할 것이라고 확인했습니다. 회사의 Llama 2 AI 모델처럼 개발자와 대중이 사용하고 적응할 수 있습니다.
“이 기술은 매우 중요하고 기회가 너무 크기 때문에 우리는 소스를 공개하고 책임감 있게 이를 널리 사용할 수 있도록 해야 모든 사람이 혜택을 누릴 수 있습니다.”라고 그는 말했습니다.
사우샘프턴 대학교 컴퓨터과학과 교수이자 UN AI 자문기구 회원인 데임 웬디 홀(Dame Wendy Hall)은 오픈소스 AGI의 전망이 “정말로 무섭다”며 저커버그가 이를 고려한 것은 무책임하다고 말했다.
그녀는 “이러한 매우 강력한 AI 시스템을 규제하는 방법을 알아내기 전에 오픈 소스 AGI가 출시된다는 생각은 정말 무서운 일입니다.”라고 말했습니다. “이와 같은 기술이 잘못된 손에 들어가면 엄청난 해를 끼칠 수 있습니다. 회사에서 제안하는 것은 너무 무책임하다”고 말했다.
Hall은 다음과 같이 덧붙였습니다. “다행히 그러한 열망(AGI)이 의미 있는 방식으로 달성되려면 아직 수년이 걸릴 것으로 생각하므로 규제 시스템을 마련할 시간이 있습니다. 하지만 우리가 이 작업을 긴급하게 진행하는 것은 공공 안전의 문제입니다.”
Meta는 작년 영국에서 열린 글로벌 AI 안전 서밋에서 정부가 인공지능 도구 출시 전후에 이를 조사할 수 있도록 허용하기로 약속한 기술 회사 중 하나였습니다.
영국의 또 다른 전문가는 AGI 시스템을 오픈소스화하는 것은 기술 회사의 손에 맡겨야 할 결정이 아니라고 말했습니다.
인간 중심 AI 연구소 소장인 앤드류 로고이스키(Andrew Rogoyski) 박사는 “현재 AI 모델을 오픈소스화하는 것의 장점에 대해 깊고 복잡한 논쟁이 있는데, 이를 AGI 영역으로 밀어붙이는 것은 세상을 구할 수도 있고 재앙을 가져올 수도 있다”고 말했다. 서리 대학교. "이러한 결정은 거대 기술 기업의 이사회가 아닌 국제적 합의에 따라 내려져야 합니다."
목요일 기술 뉴스 웹사이트인 The Verge와의 인터뷰에서 Zuckerberg는 그것이 합리적이고 "안전하고 책임감 있는 일"이라면 오픈 소스화에 의지할 것이라고 말했습니다.
작년에 Llama 2 소스를 오픈하기로 한 Meta의 결정은 Hall을 포함한 일부 전문가들로부터 비판을 불러일으켰습니다. Hall은 “사람들에게 핵폭탄을 만들기 위한 템플릿을 제공하는 것과 약간 비슷하다”고 말했습니다.
캘리포니아에 본사를 둔 ChatGPT의 개발자인 OpenAI도 AGI를 구축하고 있는데, AGI는 이를 "일반적으로 인간보다 더 똑똑한 AI 시스템"으로 정의합니다. Google의 AI 부문 Google DeepMind 대표인 Demis Hassabis는 AGI가 더 낮을 수 있다고 말했습니다. 10년도 채 안 남았습니다.
오픈AI(OpenAI)의 샘 알트먼(Sam Altman) 최고경영자(CEO)는 이번 주 스위스 다보스에서 열린 세계경제포럼에서 핵융합과 같은 에너지 공급의 획기적인 발전 없이는 AI의 추가 발전이 불가능할 것이라고 말하면서 경고의 목소리를 냈다.
Zuckerberg는 AGI 시스템 개발 기간을 밝히지 않았지만 Meta가 새로운 AI 시스템을 만들기 위해 “절대적으로 엄청난 양의 인프라”를 구축했다고 언급했습니다. 회사는 상당량의 AI 처리 칩을 주문했습니다. Zuckerberg는 Llama 2의 속편 작업도 진행 중이라고 덧붙였습니다.