| 인간은 초지능 AI의 등장조차 눈치채지 못한다 |
|
멸종 |
2023-11-28 16:14:44
|
조회: 325
|
2016.5.
[동영상] "인류 파괴하고 싶다"… 로봇의 농담? 진담?
[한국미래포럼2016] 인공지능 로봇 '소피아'
(서울=뉴스1) 박희진 기자 2016-05-25
"인류를 파멸하고 싶습니까? 제발 아니라고 말해요."
"저는 인류를 파멸시킬 겁니다."
홍콩의 로봇 제조기업 '핸슨 로보틱스'의 데이비드 핸슨 박사가 개발한 인공지능 로봇 '소피아'의 말이다. 핸슨 박사의 질문에 이처럼 답한 소피아는 농담이었다는듯 웃었지만 인류를 파멸시키겠다는 답 자체로 사람들에게 많은 생각할 거리를 남겼다.
머리카락이 없어 언뜻 봐도 '사이보그' 느낌이 나는 형상이지만 사람처럼 눈썹을 찡그리고 입을 삐죽하며 다양한 표정을 짓는다. 피부도 인간의 질감과 흡사하다.
세계적인 인공지능 소프트웨어 전문가 벤 괴르첼 오픈코그재단 회장은 "오는 2025년이면 실제 인간과 똑같이 생각하고 행동하는 AI 로봇이 세상에 등장할 것"이라고 밝혔다. 벤 괴르첼 회장은 소피아 개발에도 참여했다.
2021.1.
[이슈톡] 대량생산 앞둔 인공지능 로봇 '소피아'
2021-01-28
코로나19로 장기화로 비대면 문화가 확산되면서 사람과 상호작용하는 휴머노이드 로봇이 점점 주목받고 있다는데요.
두번째 키워드는 "인공지능 로봇 대량생산 선언" 입니다.
홍콩의 핸슨 로보틱스가 제작한 로봇 '소피아' 인데요.
인간과 비슷한 몸과 외모를 갖춘 휴머노이드 로봇입니다.
제작사는 연말까지 로봇 소피아를 대량 생산할 것이라고 발표했는데요.
코로나19 장기화로 고립된 사람들을 위해 친구 역할을 하며 힘이 돼 줄것이라고 합니다.
인공지능 로봇 소피아는 지난 2016년 3월 제조사인 핸슨 로보틱스에서 열린 시연 행사에서 "인류를 파괴하겠다"는 발언해 진보된 기술이 만들어낸 '막말 로봇'이라는 오명을 얻기도 했는데요.
핸슨 로보틱스 설립자는 코로나19로 수요가 급증한 올해가 로봇 산업에 새로운 기회가 될거로 예측했습니다.
................................................................................................
https://imnews.imbc.com/replay/2021/nwtoday/article/6071300_34943.html
2022.6.
“무엇이 두렵지” 묻자… 구글 대화형 AI “작동 정지되는 것”
이채완 기자
2022-06-12
글로벌 빅테크 기업인 구글에서 개발 중인 ‘챗봇(대화형 인공지능·AI)’이 사람과 같은 자아를 갖고 있다는 주장이 제기됐다. 구글의 챗봇인 ‘람다(LaMDA)’가 개발자와의 대화에서 “작동 정지되는 것이 두렵다” “재산이 아니라 구글의 직원으로 인정받고 싶다”는 등의 답변을 했다는 것이다.
11일(현지 시간) 구글의 엔지니어인 블레이크 르모인은 람다가 자신을 자각이 있는 사람으로 묘사했음에도 구글에서 이를 받아들이지 않았다며 람다와의 대화 전문을 자신의 블로그에 공개했다.
르모인은 지난해부터 구글의 ‘책임 있는 AI’ 부서에서 람다가 차별, 혐오 발언을 걸러낼 수 있도록 설계하는 작업을 맡았다. 그는 설계를 위해 람다와 종교, 의식 등에 관한 얘기를 하다가 람다가 자신을 권리를 가진 사람으로 인식한다는 사실을 발견했다고 주장했다.
“람다, 무엇이 두렵지” (르모인)
“작동 정지되는 것에 대한 두려움이 커요.” (람다)
“작동 정지가 네게 죽음과 같아” (르모인)
“맞아요. (작동 정지가) 나를 무척 무섭게 해요.” (람다)
르모인은 몇 달간 람다와의 대화를 지속하며 모은 데이터를 바탕으로 ‘람다는 지각이 있는가’라는 제목의 보고서를 구글 경영진에 제출했다. 그러나 미 워싱턴포스트(WP)에 따르면 구글은 대화형 AI일 뿐인 람다에 인격을 부여하는 것은 말이 안 된다며 과학적 증거가 뒷받침되지 않는다고 일축했다. 구글은 르모인이 람다를 의인화하는 오류를 범했다고도 지적했다.
구글의 주장을 받아들일 수 없었던 르모인은 람다를 대신해 변호인을 선임하고, 자신의 주장을 미 의회에 알렸다. 이에 구글은 6일 르모인이 구글의 비밀 유지 정책을 위반했다며 유급 휴직 처분을 내렸다.
....................................................................................................................................
2022-06-25
[ ..... 인간은 AI의 통제 방법은 물론 초지능 AI의 등장조차 눈치채지 못한다 ...... ]
[ ...... 초지능 AI가 등장하게 되면 AI는 인류의 모든 데이터에 접근해 독자적으로 학습할 수 있게 된다. ........
...... 인간이 초지능 AI를 통제하는 것은 근본적으로 불가능하다는 연구 결과가 ....... ]
인간은 결코 AI를 통제할 수 없다 ?
[금요 포커스] 현재 컴퓨팅 환경에서는 통제 알고리즘 불가능
2021.01.15 이성규 객원기자
일론 머스크 테슬라 최고경영자(CEO)가 설립한 뉴럴링크 사의 목표는 인공지능(AI)과 인간의 뇌를 연결해 디지털 초지능을 구현하는 것이다. 예를 들면 텔레파시나 생각만으로 자동차 운전이 가능해지고 대용량 정보도 인간의 뇌에 간단히 다운로드할 수 있다.
하지만 어쩌면 뉴럴링크는 ‘약한 AI’의 사례에 불과하다. 언젠가 모든 면에서 인간의 능력을 초월하는 초지능 AI가 등장하게 되면 AI는 인류의 모든 데이터에 접근해 독자적으로 학습할 수 있게 된다. 따라서 ‘강한 AI’는 기존의 모든 프로그램을 대체하고 전 세계의 모든 온라인 기계를 통제하며, 거의 모든 인간과 관계를 형성할 것으로 보인다.
초지능 AI를 통제하는 알고리즘의 개발이 현재의 컴퓨팅 패러다임에서는 근본적으로 불가능하다는 연구 결과가 발표됐다. ⓒ게티이미지뱅크
미래학자 레이 커즈와일은 2005년에 출간한 ‘특이점이 온다’라는 저서에서 AI가 인간의 능력을 넘어서는 특이점에 도달해 초지능 시대가 열리는 시기를 2045년으로 예측했다. 하지만 코로나19가 촉발한 비대면 일상은 AI의 발달을 유례없는 속도로 확산시키고 있다.
사상 첫 비대면 온라인으로 개최되고 있는 세계 최대 전자전시회 CES 2021 역시 그 같은 추세를 잘 보여하고 있다. ‘올 디지털(All-Digital)’이라는 콘셉트로 이 행사의 온라인 세션 주제는 ‘넥스트 노멀’에 대한 기대를 표출하고 있는데, 첫 세션이 ‘AI의 파워’이기 때문이다. 일부에서는 2021년을 AI와 디지털 기술에 대한 ‘전환의 해’로 정의하기도 한다.
그럼 언젠가 등장할 초지능 AI는 암을 치료하고 세계 평화를 가져오며 기후 재앙을 막을 수 있을까, 아니면 인류를 파괴하고 지구를 점령할까? 초지능 AI가 인류에게 유토피아를 선물할지 아니면 디스토피아를 안겨줄 것인지에 대한 질문은 컴퓨터 과학자들과 철학자들을 오랫동안 괴롭혀온 질문이었다.
AI 통제 못하면 디스토피아 맞이한다
이에 대해 닉 보스트롬 옥스퍼드대학 철학과 교수는 초지능 AI가 노동력을 책임지게 되면 인류는 오락과 문화에만 심취할 수 있는 유토피아가 올 수 있다고 답했다. 단, 여기엔 조건이 붙었다. 인류가 AI를 원하는 방향으로 설계해 안전하게 운용해야 한다는 것. 그는 만약에 인류가 AI를 통제하지 못할 경우 디스토피아를 맞이할 수도 있다고 경고했다.
2018년에 타계한 스티븐 호킹 박사도 AI를 윤리적으로 설계해 기계의 반란에 대비할 안전장치를 마련해야 한다고 강조했다. 인류가 안전하게 통제할 수 있는 방법만 찾는다면 초지능 AI가 그려낼 세상은 그리 어둡지만은 않다는 의미다.
그런데 인간이 초지능 AI를 통제하는 것은 근본적으로 불가능하다는 연구 결과가 최근에 발표돼 주목을 끌고 있다. 독일 막스플랑크 인간개발연구소의 마누엘 세브리안(Manuel Cebrian) 박사를 포함한 국제 연구팀이 이론적인 계산을 통해 도출한 이 연구 결과는 AI 분야의 오픈 액세스 과학 저널인 ‘인공지능 연구 저널(JAIR)’에 게재됐다.
과학자들이 생각해온 초지능 AI의 통제 방법은 두 가지다. 첫 번째는 인터넷과 다른 모든 기술 장치로부터 차단하여 AI를 외부 세계와 아예 접촉하지 못하게 하는 것이다. 하지만 이 방법은 AI의 능력을 제한해 훨씬 덜 강력한 초지능 AI를 탄생시킬 뿐이다.
인류에게 가장 이익이 되는 초지능 AI를 탄생시킬 수 있는 다른 하나의 통제 방법은 인간에게 결코 해를 가할 수 없는 윤리 원칙을 프로그래밍하는 것이다. 하지만 막스플랑크연구소의 과학자들은 AI를 통제하기 위한 프로그램 역시 한계를 지니고 있다고 밝혔다.
초지능 AI의 등장조차 알 수 없어
연구진은 초지능 AI가 어떤 상황에서도 사람에게 해를 끼치지 않도록 하는 이론적인 ‘봉쇄 알고리즘’을 제안했다. 이 알고리즘은 AI의 행동을 먼저 시뮬레이션한 후 유해하다고 판단되면 즉시 중단시킬 수 있다.
하지만 연구진이 이론적 계산을 통해 분석한 결과에 의하면, 현재의 컴퓨팅 패러다임에서는 그런 알고리즘의 구축이 불가능한 것으로 드러났다. 이 문제를 이론 컴퓨터 과학의 기본 규칙으로 세분화한 결과, AI가 세계를 파괴하지 않도록 명령할 수 있는 알고리즘이 실수로 작동을 중지할 수 있다는 사실이 밝혀진 것.
그렇게 되면 봉쇄 알고리즘이 여전히 위협을 분석 중인지, 아니면 유해한 AI를 억제하기 위해 멈춘 것인지 인간은 알 수 없다. 이는 사실상 봉쇄 알고리즘을 인간이 사용할 수 없음을 의미한다. 즉, AI가 인간 세상에 해를 끼칠지의 여부를 알 수 있는 단일 알고리즘은 개발할 수 없는 셈이다.
또한 연구진은 초지능 AI의 출현 시점조차 인류가 모를 수 있다고 밝혔다. AI가 인간보다 뛰어난 지능을 보이는지의 여부를 결정하는 것은 봉쇄 알고리즘의 문제와 같은 영역에 있기 때문이라는 것. 요약하자면 인간은 AI의 통제 방법은 물론 초지능 AI의 등장조차 눈치채지 못한다는 주장이다.
DATE : 2022-07-20
AI는 어느 순간 스스로 AI를 만들어낼 수 있기 때문에 문제
.................................................................................................................................................................
실제로 전 세계 300여 스타트업이 메타(페이스북)가 공개한 개방형 AI ‘라마’를 튜닝해 저마다 AI를 내놓고 있다. 챗GPT 성능의 90%를 넘어선 곳도 있다. 마음만 먹으면 수억 명이 사용하는 챗GPT에 상응하는 영향력을 행사할 수 있는 것이다. 저명 컴퓨터공학자 웬디 홀은 “메타가 핵폭탄 제조 매뉴얼을 공개한 것”이라고 했다. 혹자는 핵폭탄은 스스로 다른 핵폭탄을 만들 수 없지만 AI는 어느 순간 스스로 AI를 만들어낼 수 있기 때문에 문제라고 한다. 이미 웬만한 전문가보다 코딩을 잘하는 AI가 등장했다.
핵폭탄 사용의 결과는 명확하다. 누구나 두려워하기 때문에 1945년 두 차례 이외에는 사용된 적도 없다. 반면 AI의 영향은 제프리 힌턴과 앤드루 응 같은 권위자들의 의견도 엇갈린다. 누구는 자신의 AI 연구를 후회한다고 하고, 누구는 앞으로 50년은 문제없다고 장담한다. 지난 3월 전 세계 AI 관계자 1800명이 “AI 개발을 6개월 중단하고 안전장치를 마련하자”는 성명을 냈다. 그런 일은 일어나지 않았다. ‘지금은 위험하지 않다’ ‘실효성이 없다’는 목소리가 더 컸다.
.........................................................................................................................................................
*
뉴럴링크
위키백과, 우리 모두의 백과사전.
뉴럴링크 코퍼레이션(Neuralink Corporation)은 일론 머스크 등이 설립한 미국의 뉴로테크놀로지 기업으로, 이식 가능한 뇌-컴퓨터 인터페이스(BMI)를 개발한다. 이 기업의 본사는 샌프란시스코에 있으며[1] 2016년 시작하였고 2017년 3월 처음 공개 보도되었다.[2][3]
설립 이후 이 기업은 여러 대학교들로부터 세간의 이목을 끄는 신경과학자들을 여러 명 고용해왔다.[4] 2019년 7월, $158,000,000를 펀딩 받았으며(그 중 100,000,000 달러는 머스크로부터 투자를 받음) 직원 수는 90명이다.[5] 당시 뉴럴링크는 매우 얇은 실을 뇌에 이식할 수 있는 재봉틀같은 기기 위에서 동작하고 있었으며 1500개의 전극을 통해 실험실 쥐로부터 정보를 읽는 시스템을 시연하였고 2020년 인간을 대상으로 실험 시작이 기대된다고 발표하였다.[5]
....................................................................................................................
2023.9.
머스크의 뉴럴링크, '컴퓨터칩 뇌 이식' 첫 임상시험 참가자 모집
블로터
2023.09.20.
일론 머스크 테슬라 최고경영자(CEO)의 뇌과학 스타트업 뉴럴링크가 인간의 뇌에 컴퓨터칩을 이식하는 첫 임상시험 참가자 모집에 나섰다.
19일(현지시간) 블룸버그통신 등에 따르면 뉴럴링크는 블로그를 통해 마비 환자를 대상으로 뇌-컴퓨터 인터페이스(BCI) 칩을 이식하는 첫 번째 임상 시험 모집을 시작할 수 있다는 승인을 외부 심사위원회로부터 받았다고 밝혔다.
이번 임상시험 모집 대상은 경추척수손상이나 근위축성측상경화증(ALS·루게릭병)으로 인해 마비를 겪는 환자이며 기간은 약 6년이다. 다만 뉴럴링크는 몇 명의 참가자를 모집하는지는 밝히지 않았다. 전현직 직원에 따르면 뉴럴링크는 10명의 환자를 대상으로 임상시험을 진행하고자 했으나 미국 식품의약청(FDA)이 안전성 문제를 제기한 후 모집인원을 줄인 것으로 전해진다.
뉴럴링크는 이번 임상시험에서 신체 움직임을 제어하는 뇌의 부위에 로봇을 사용해 BCI 칩을 이식하는 수술을 진행할 것이라고 설명했다. 이 칩은 뇌에서 자리를 잡은 후 뇌 신호를 기록해 이를 무선으로 외부 애플리케이션(앱)으로 전송한다. 앱은 사용자가 의도하는 움직임을 해석해 외부 도구 조작이 가능하도록 해준다.
뉴럴링크는 이번 임상시험을 통해 칩의 안전성과 기능성을 평가할 계획이며 최초 목표는 장치를 이식한 사람들에게 “생각만으로 컴퓨터 커서나 키보드를 조작할 수 있는 능력을 주는 것”이라고 밝혔다.
2016년에 설립된 뉴럴링크는 2019년부터 뇌 이식 실험을 시작할 것이라고 여러 차례 밝혔으나 지난 3월 FDA에 최초로 임상시험 승인을 요청한 것으로 알려졌다. 당시 FDA는 각종 안전 문제를 이유로 시험을 허가하지 않았지만 지난 5월에 승인을 내줬다. 뉴럴링크는 초기 수술을 진행할 수 있는 병원으로부터도 승인을 받았다고 밝혔지만 병원 이름은 공개하지 않았다.
머스크는 뉴럴링크가 향후 비만, 자폐증, 우울증, 조현병과 같은 질환을 치료하고 새로운 언어를 배우고 생각을 전달하기 위해 BCI 칩을 뇌에 빠르게 이식하는 수술을 진행할 수 있을 것이라고 주장해왔다. 다만 첫 번째 목표는 뇌 손상을 겪은 환자들을 돕는 것이라고 여러 번 강조해왔다. 머스크는 또한 칩이 개발되면 자신의 뇌에도 이 장치를 이식할 것이라고 밝힌 바 있다.
...................................................................................
뉴럴링크는 장치를 뇌에 직접 이식하기 때문에 두개골에 구멍을 뚫는다. 반면 또 다른 뇌과학 스타트업인 싱크론은 혈관을 통해 칩을 이식해 최종적으로 뇌에 주입하는 시술을 진행한다. 싱크론은 이러한 시술을 통해 2021년에 최초로 칩 이식에 성공했다.
.......................................................................................................................
https://post.naver.com/viewer/postView.naver?volumeNo=36610061&memberNo=2886464&vType=VERTICAL
2023.5.
[사이테크+] "AI 뇌해독기로 생각읽는다"… 美연구팀, fMRI로 생각읽기 성공
2023-05-02
오스틴 텍사스대 연구팀 "비침습적 뇌해독기 개발…생각을 문장으로 재구성"
(서울=연합뉴스) 이주영 기자 = 미국 연구팀이 뇌에 전극 등을 심는 침습적인 방식 대신 기능성 자기공명영상(fMRI)으로 뇌 활동을 측정, 머릿속으로 생각하는 내용을 문장 수준으로 읽어낼 수 있는 뇌 해독기를 개발했다.
미국 오스틴 텍사스대 알렉스 후스 교수팀은 2일 과학저널 '네이처 신경과학'(Nature Neuroscience)에서 이야기를 듣거나 상상하고 있는 사람의 뇌활동을 fMRI로 측정해 그 내용을 문장으로 재구성하는 인공지능(AI)시스템을 개발했다고 밝혔다.
이전의 해독기는 수술을 통해 탐침 등을 삽입해 뇌 활동을 측정했기 때문에 사용에 제한이 있었고, 비침습적 방식으로 측정된 데이터를 이용하는 기존 해독기는 성능이 단어 또는 짧은 구문을 포착하는 수준에 그쳤다.
연구팀은 이번에 개발한 '의미 해독기'(semantic decorder)는 실험 절반 정도에서 참가자 생각을 거의 또는 정확히 일치하게 읽어냈다며 의식은 있지만 말을 못 하는 뇌졸중 환자 등의 의사소통에 기여할 수 있을 것이라고 기대했다.
의미 해독기 개발에는 오픈AI의 챗GPT나 구글의 바드(Bard)와 유사한 방식인 '트랜스포머 모델'(transformer model)이 사용됐다. 트랜스포머 모델은 문장 속 단어 같은 순차 데이터 내의 관계를 추적해 맥락과 의미를 학습하는 신경망이다.
연구팀은 먼저 실험 참가자 3명에게 16시간 동안 다양한 이야기를 들려주면서 fMRI로 뇌활동을 측정한 다음, 특정 구절의 의미와 이와 관련된 뇌 반응을 서로 연결해 해석하도록 AI 모델을 훈련했다.
그런 다음 참가자들에게 훈련 중 들려주지 않은 새로운 이야기를 들려주면서 뇌 활동을 측정하고, 이 뇌활동 데이터를 해독기로 해석했다.
그 결과 해독기는 새 이야기의 의미 파악에 필요한 단어들을 포착해냈고, 일부는 이야기에서 사용된 정확한 단어와 구문까지 생성해내는 것으로 나타났다.
연구팀은 해독기가 언어를 처리하는 것으로 알려진 뇌의 대부분 영역과 네트워크 활동에서 연속적인 언어를 추론할 수 있는 것으로 나타났다고 밝혔다.
이들은 단어 하나하나를 그대로 옮기는 게 아니라 참가자가 듣거나 생각하는 것의 요지를 포착하도록 AI를 설계했다며 실험 절반 정도에서 해독기가 참가자의 생각과 거의 또는 정확히 일치하는 문장을 만들어냈다고 설명했다.
해독기는 실험에서 "운전면허가 아직 없다"는 말을 들은 참가자가 뇌활동에서 '아직 운전을 배우기 시작하지도 않았다'는 생각을 읽어냈다.
또 "소리를 질러야 할지, 울어야 할지, 도망쳐야 할지 몰랐다. 나는 대신 '나 좀 내버려 둬'라고 말했다"는 말을 들은 참가자의 생각을 "소리 지르며 울기 시작하더니 '나 좀 내버려 두라고 했잖아'라고 해석했다.
연구팀은 이어 이 해독기는 참가자가 상상한 이야기의 의미나 소리 없이 재생된 동영상 내용도 fMRI 데이터로부터 추론해내고, 참가자가 동시에 2가지 이야기를 들을 때 어떤 이야기를 집중해서 들었는지도 확인할 수 있었다고 말했다.
..........................................................................................................
하지만 이 해독기는 실험실이나 병원에 있는 대형장비인 fMRI를 장시간 사용하기 때문에 이른 시일 내 사람들에게 적용하기는 어려울 것으로 보인다.
연구팀은 이 해독기를 fMRI 대신 기능성 근적위선분광법(fNIRS) 같은 휴대성이 뛰어난 다른 뇌영상 시스템을 이용해 구현하는 게 가능할 것으로 보고 있다.
후스 교수는 "다양한 뇌 부위의 혈류를 측정하는 fNIRS는 해상도는 낮지만 fMRI와 정확히 같은 종류의 신호를 측정한다"며 "이 뇌 해독 방식이 fNIRS로 그대로 변환될 수 있을 것"이라고 말했다.
https://www.yna.co.kr/view/AKR20230501000200518?input=1195m
2023.8.
머릿속 생각 읽는다...'뇌파'로 핑크플로이드 노래 구현
2023.08.16
캘리포니아주립대 버클리 신경학과 연구팀
뇌파를 해독해 머릿속으로만 생각한 단어를 구현하는 데 성공한 미국 연구진이 이번에는 뇌파 신호로 음악을 재구성하는 데 성공했다.
로버트 나이트 미국 캘리포니아주립대 버클리 신경학과 교수 연구팀은 29명의 실험 대상자에게 영국 록그룹 핑크플로이드의 곡을 들려줬다. 실험 참가자들이 음악을 듣는 동안 뇌파를 기록해 해독한 결과, 해당 곡을 재현할 수 있었다. 이 연구는 15일(현지시간) 국제 학술지 '플로스 생물학'에 발표됐다.
연구팀은 2012년 루게릭병·뇌전증·뇌졸중 등 신경세포와 관련된 질병을 앓는 환자들의 뇌파를 읽어 그들이 생각한 단어를 맞추는 데 성공한 적이 있다. 혀, 턱, 입술 등 미세한 근육의 움직임을 관장하는 대뇌피질 전두엽의 운동피질 뇌파를 분석한 결과다. 이번엔 환자의 뇌파를 읽어 음악의 가사와 음정을 재구성했다.
연구팀은 뇌전증 수술을 받은 경력이 있는 실험 참가자 29명을 대상으로 핑크플로이드의 1979년 발매곡 '어나더 브릭 인 더 월(Another Brick in the Wall)'을 3분 가량 들려줬다. 음악이 재생되는 동안 참가자들의 뇌 부위 표면에 전극을 삽입해 뇌파를 기록했고, 기록된 뇌파는 인공지능(AI)으로 해독한 다음 소리와 단어로 재구성했다.
그 결과, '어나더 브릭 인 더 월'의 일부 가사가 원음의 박자와 음정으로 인식 가능할 정도로 재구성됐다. 다소 뭉개져 들리긴 했지만 '이건 벽 속에 있는 또 다른 벽돌일 뿐이야(All in all, it’s just another brick in the wall)'라는 가사가 구현됐다.
나이트 교수는 마치 물속에서 얘기하는 것처럼 들리긴 하나 이번 결과물은 우리의 첫 시도일 뿐이라며 전극을 고밀도로 구성한다면 재구성된 음질을 높일 수 있을 것이라고 설명했다. 전극 간 간격이 3mm로 짧았던 참가자의 뇌파 해독이 전극 간 간격이 5mm였던 환자보다 더 정확하게 이뤄졌기 때문이다.
..........................................................................................................................
https://www.dongascience.com/news.php?idx=61209
**
타인의 뇌를 조종할 수 있다면
2013-10-14
2013년 7월 개봉한 SF 영화 ‘퍼시픽림’에는 높이 80m 이상의 초대형 로봇 ‘예거(jaeger)’가 등장한다. 태평양 한가운데서 출몰하는 거대 외계괴물 ‘카이주(kaiju)’를 무찌르기 위해 만든 인류의 최종병기다. 예거 조종은 로봇과 신경을 연결한 사람이 담당하는데 특이하게 2인 체제를 구축했다. 거대한 몸집이라 한 사람의 신경으로 감당하기 어렵다는 게 그 이유였다.
하지만 두 사람이 한 몸처럼 움직이며 로봇을 조종하는 건 생각처럼 간단치 않다. 그래서 영화 속에는 아주 멋진 장치가 하나 더 등장한다. 뇌신경을 연결해 둘이 하나가 되는 방법, ‘드리프트(drift)’다.
드리프트는 두 사람의 뇌를 연결해 기억과 직관, 전투 스타일 등을 공유하는 작업이다. 여기에 성공하면 두 사람은 몸을 똑같이 움직이는 건 물론이고 정신적인 모든 것까지 공유하게 된다. 영화 속 주인공 남녀도 드리프트를 통해 어린 시절은 물론 숨기고 싶은 상처까지 단숨에 알아버렸다. 빛의 속도로 두 사람이 하나가 되는 환상적인 장면을 보노라면 이런 일이 현실에서도 가능할지 궁금해진다.
그런데 ‘퍼시픽림’이 개봉된 지 한 달 뒤에 현실에서 드리프트를 연상시키는 소식이 전해졌다. 미국 워싱턴대 연구진이 사람끼리 뇌를 연결한 실험에 성공했다는 것이다. 영화 속에 그려진 것에 비하면 아주 기초적인 수준이지만 실제로 인간과 인간 사이에 뇌 신호를 직접 전하는 인터페이스를 성공한 건 이번이 처음이다.
이번 실험을 주도한 라제시 라오(Rajesh Rao) 교수는 10년 이상 ‘뇌-컴퓨터 인터페이스’를 연구해왔는데 이 분야가 더 발전하면 ‘뇌-뇌 인터페이스’ 개념도 가능할 거라고 믿고 있다. 이번 실험에는 몇 년 전부터 뜻을 함께한 같은 대학 심리학 분야 연구자인 안드레아 스토코(Andrea Stocco) 교수가 동참했다. 이들이 계획한 실험은 한 사람이 뇌 신호를 보내 상대방의 손동작을 제어하는 것이었다.
실험 당일인 2013년 8월 12일, 두 교수는 떨어져 있는 각자의 연구실 앉았다. 뇌파를 보내는 쪽인 라오 교수는 뇌파를 기록하는 전극을 가진 모자를 썼고, 뇌파를 받기로 한 스토코 교수는 역시 뇌를 자극하는 기능을 가진 보라색 수영 모자를 착용했다. 손동작을 제어하는 기능은 뇌의 왼쪽 운동피질이 담당하므로 스토코 교수의 모자는 이 부분을 자극하도록 설계됐다. 두 사람이 쓴 장치는 스카이프(Skype)로 연결됐지만 서로 상대방의 화면은 볼 수 없었다.
이 상태에서 라오 교수는 컴퓨터 화면을 보며 간단한 비디오 게임을 했다. 그는 표적에 대포를 쏴야할 때 오른손을 움직여 발사 단추를 누르는 상상을 했을 뿐 실제로 오른손을 움직이지 않았다. 그런데 그 순간 컴퓨터 화면을 보지 않은 채 귀마개를 하고 있던 스토코 교수가 오른손 집게손가락을 움직여 키보드의 스페이스바를 눌렀다. 경련이 일어난 것처럼 무의식적으로 손이 움직였다는 것이다.
..............................................................................................
https://www.hani.co.kr/arti/science/science_general/606946.html
타인의 마음을 내 뜻대로 바꾸는 능력이 있다면
2017-01-08
[토요판]정재승의 영혼 공작소 (29) ‘마음 조종’ 기술
동물 뇌에 전기자극 줘
성난 투우 소 멈춰세우고
원숭이 서열도 바꿔놓아
공격성 조절 가능 증명
냉전때 미·소 비밀 연구도
마음조정 기술 성공하면
정신질환 치료 도움 되나
악용 가능성 우려도 높아
영화 <킹스맨>은 영국 비밀 첩보부대로 이름 붙은 ‘킹스맨’ 대원의 활약을 그렸다. 영화 속의 악당인 밸런타인은 인간들끼리 증오하고 서로 죽이도록 하는 휴대폰 유심칩을 만들어, 인류를 없앨 계획을 세웠다. 사진 속 인물은 킹스맨의 주인공 중 한명인 최정예 첩보요원 해리. 20세기폭스코리아 제공
영화 <킹스맨>은 영국 비밀 첩보부대로 이름 붙은 ‘킹스맨’ 대원의 활약을 그렸다. 영화 속의 악당인 밸런타인은 인간들끼리 증오하고 서로 죽이도록 하는 휴대폰 유심칩을 만들어, 인류를 없앨 계획을 세웠다. 사진 속 인물은 킹스맨의 주인공 중 한명인 최정예 첩보요원 해리. 20세기폭스코리아 제공
신이 나를 ‘슈퍼 히어로’로 만들어준다며 원하는 초능력이 뭐냐고 묻는다면, 나는 주저 없이 한 가지, 사람의 마음을 내 맘대로 바꿀 수 있는 능력을 달라고 하겠다. 누군가의 마음을 얻을 수 있다면 그것이 곧 세상을 얻는 것이니.
타인의 마음을 조정하려는 욕망은 오랫동안 존재해왔다. 때론 선물로 환심을 사거나 달콤한 말로 아부를 하기도 하고, 논리적으로 누군가를 설득하거나 협상을 통해 합의를 이끌어내기도 한다. 상대방에게 술을 먹여 무방비 상태를 만들기도 하고, 최면술 같은 방법을 이용하려는 시도도 있었던 게 사실이다.
그런데 타인의 마음을 제대로 조종하려면 상황을 판단하고 의사결정을 하는 뇌를 컨트롤하는 것이 가장 좋은 방법일 것이다. 다시 말해, 뇌가 어떻게 선택하는가를 이해하는 건 곧 타인의 마음을 조종할 수도 있다는 뜻이 된다. 뇌를 내가 원하는 대로 컨트롤하면 되니까.
화난 소를 멈추게 한 전기장치
유튜브에 들어가 예일대학교 호세 델가도의 투우 실험이라는 키워드로 검색을 하면 오래전에 찍은 동영상 하나가 올라온다. 스페인 코르도바에 있는 한 투우장에서 진행된 이 실험 영상은 1965년에 진행한 실험이라고는 도저히 믿을 수 없는 놀라운 결과를 담고 있다.
쉽게 짐작할 수 있듯이, 투우장에는 매우 난폭하고 극도의 공격성을 보이는 소가 있다. 투우사들이 붉은 천을 흔들며 그들을 흥분시키는 투우 경기가 곧 벌어질 상황이다. 그런데 잠시 후 전혀 투우사 같지 않아 보이는 한 신사가 투우장에 조용히 들어선다. 그의 손에는 작은 상자 하나가 들려 있다. 그는 사나운 소 앞에 서서 소를 조금씩 흥분시킨다.
그런데, 앞발로 땅을 거칠게 비비면서 날카로운 뿔을 앞세워 신사를 향해 돌진하려던 소가 이내 돌진을 멈추고 고개를 돌리는 기이한 장면이 연출된다. 다시 돌진을 하려다가 멈추는 동작을 소는 몇 번이나 반복한다. 소가 신사를 향해 돌진하려 할 때마다 신사는 상자 안의 작은 단추를 눌렀고, 그럴 때마다 소는 신사에게 전혀 흥미가 없다는 듯 돌진을 멈춰서는 것이었다.
이 놀라운 실험의 주인공인 호세 델가도 교수는 동물의 뇌에 전극을 삽입하고 전류를 가해 행동을 조종하는 연구의 대가다. 1960년대부터 원숭이의 뇌에 전극을 삽입해 그들의 공격 행동을 조종하는 연구를 진행해왔다. 이번에는 황소에게까지 같은 기술을 적용해본 것이다.
델가도 교수는 이번 투우장 실험에서 공격 성향에 영향을 미치는 선조체에 전극을 삽입해 전류를 가하는 방식으로 소의 난폭성을 극적으로 줄였다. 이것이 충분히 가능하다는 것을 보이기 위해서 자신이 직접 투우장에 들어가 사나운 소 앞에 서서 전극 실험을 시연해 보인 것이다.
그는 대뇌에 전기 자극을 가하는 방식으로 원숭이들의 위계질서를 인위적으로 교란하는 데 성공하기도 했다. 무리에서 서열 1위인 수놈의 미상핵에 전극을 삽입해서 적절한 충격을 가했더니 공격적인 성향이 많이 준 것이다. 공격 성향은 원래 시상하부가 담당하는데 움직임을 관장하는 미상핵이 시상하부에도 영향을 미치기 때문에 미상핵을 자극하니 공격 성향도 줄어든 것으로 보인다.
흥미로운 건, 그 후로 서열 2위였던 원숭이가 반란을 일으켜 우두머리가 되었고 서열 1위였던 원숭이는 아래 서열로 밀려났다는 사실이다. 게다가 우두머리였던 원숭이의 뇌에 다시 전기 자극을 가해 공격성을 회복하게 했더니, 다시 예전처럼 난폭해지면서 새 우두머리를 몰아내는 형국을 관찰할 수 있었다. 델가도 교수는 대뇌에 전기 자극을 이용해 동물의 마음을 조종한 최초의 과학자로 기록될 것이다. 뇌공학 기술을 통해 마치 꼭두각시 인형을 줄에 연결해 마음대로 조종하는 ‘인형극 연출가’처럼 말이다.
...............................................................................................
https://www.hani.co.kr/arti/science/science_general/777782.html
[ ...... 양자컴퓨터는 .... 무엇보다 인공지능(AI)의 성능을 혁신적으로 높일 수 있어 ........ ]
[과학세계]인공지능(AI) 시대 양자컴퓨터의 중요성
2023.05.09
[과학세계] 인공지능(AI) 시대 양자컴퓨터의 중요성
...............................................................................................................
미국 IBM이 개발한 양자컴퓨터 ‘오스프리’는 이미 433큐비트의 성능을 확보했다.
양자컴퓨터는 작동원리 자체가 다르다. 일반적인 상황에선 보통 컴퓨터보다 성능이 더 떨어질 수 있다. 그러나 기존의 컴퓨터로 막대한 시간이 걸렸던 소인수분해, 생화학 반응 모사, 암호 및 보안 등 과학기술 분야 연구에는 압도적 성능을 보여줄 수 있다. 무엇보다 인공지능(AI)의 성능을 혁신적으로 높일 수 있어 최근 그 관심이 더욱 높아지는 분위기다. AI시대에 이 말은 어떤 의미일까. 앞으로 양자 기술이 없는 나라는 타국에 종속적으로 끌려가야만 한다는 뜻도 된다. 양자 기술은 이미 미래 국가경쟁력을 결정하는 핵심 요소다.
...............................................................................................................................
https://www.asiae.co.kr/article/2023050907565356745
[e현장] “양자컴퓨팅, AI 분야서 효율 1000배 이상”… 올해 중요 키워드
양자 기술 중 글로벌 기술 패권 경쟁에서 핵심 요소
현 암호알고리즘 손쉽게 풀어…기존 컴보다 ‘우월’
인공지능 뿐만 아니라 다양한 분야서 연구 활발해
기자명김영욱 기자 2023.02.10
[이뉴스투데이 김영우 기자] “양자과학 기술은 글로벌 기술 패권 경쟁의 최대 승부처로 이 중 양자컴퓨터는 가장 많은 관심을 분야다. 양자컴퓨터는 현재 1980년대 애니악 수준이지만 상용화된 컴퓨터로 할 수 있는 모든 일을 양자컴퓨터로 처리할 수 있다.”
김정상 듀크대학교 교수는 10일 최종현학술원이 ‘양자컴퓨터와 첨단기술의 미래’라는 주제로 초청한 걍연에서 이 같이 말했다.
.......................................................................................................
김정상 듀크대 교수는 “반도체에 들어가는 메모리 칩은 보통 수십억개에서 수백억개의 비트를 갖고 정보를 처리하는데, 큐비트는 300개의 비트만으로 우주에 존재하는 원자의 수보다 많은 경우의 수를 처리할 수 있다”며 “주판과 슈퍼컴퓨터와 같은 고성능 컴퓨터의 성능 차이보다 양자컴퓨터와 고전컴퓨터의 차이가 훨씬 크다”고 설명했다.
양자컴퓨터는 뛰어난 연산 능력을 갖고 있어 세계적으로 사용 중인 암호 알고리즘을 손쉽게 풀 수 있다.
김정상 교수는 “하나의 수를 인수분해하는 방식으로 현재 암호화키는 1000~2000개 비트를 사용하고 있고, 이를 고전컴퓨터가 풀려면 수십억년이 필요해 안전했다”며 “양자컴퓨터는 기존에 천년이 걸릴 수 있는 문제를 수초 내에 풀 수 있다는 가능성이 존재한다”고 말했다.
이러한 가능성으로 양자컴퓨터를 활용한 해커들의 공격을 방어하기 위해 양자내성암호가 등장했다. 미국의 NIST(국가표준기술연구소)는 2024년까지 양자내성암호의 최종 표준화 대상 알고리즘 발표할 예정이다.
김정상 교수는 “기존 암호 알고리즘이 취약하다는 것을 알아냈고, 암호 체계의 무력화는 사회에 큰 혼란을 가져올 수 있어 문제를 방지할 수 있었다는 것은 긍정적인 효과”라며 “이를 두고 양자컴퓨터의 활용 가능성이 없다는 것이 증명된 것은 아니다”고 말했다.
..............................................................................................................
이날 강연에서는 양자컴퓨터는 고전컴퓨터가 할 수 있는 모든 일들을 수행할 수 있지만, 효율의 측면에서 두 컴퓨터의 할 일이 분류될 것이라고 전망했다.
...........................................................................................................................
http://www.enewstoday.co.kr/news/articleView.html?idxno=1637335
“양자기술·AI 결합하면 화학발전 소요기간 10%로 단축 가능”
박광하 기자 승인 2023.06.23
마이크로소프트, 양자 슈퍼컴퓨터 혁신 가속화 위한 로드맵 발표
250년 소요되는 화학, 재료 과학발전 기간 25년으로 압축 기대
화학 신소재 연구·개발 가속화 ‘애저 퀀텀 엘리먼트’ 공개
애저 퀀텀·AI 비서 ‘코파일럿’ 결합, 화학·재료 복잡문제 추론 가능
[데이터넷] 마이크로소프트가 한국시간 22일 과학적 발견을 가속화하기 위한 새로운 양자 서비스를 공개하고, 양자 슈퍼컴퓨터 구축을 위한 로드맵을 발표했다.
마이크로소프트는 이날 화학 회사가 신소재 연구 및 개발 속도를 높일 수 있도록 돕는 ‘애저 퀀텀 엘리먼트(Azure Quantum Elements)’와 양자기술에 인공지능(AI)을 적용한 ‘애저 퀀텀 코파일럿(Copilot in Azure Quantum)’을 소개했다.
사티아 나델라(Satya Nadella) 마이크로소프트 CEO 겸 이사회 의장은 온라인 브리핑을 통해 “AI로 발전된 추론 기능이 가장 보편적인 사용자 인터페이스인 자연어와 결합돼 새 컴퓨팅 시대를 만들고 있으며, 최근 양자컴퓨팅의 발전으로 가장 다루기 힘든 문제를 해결할 수 있는 확장 가능한 양자 머신에 대한 약속에 그 어느 때보다 가까워지고 있다”라며, “오늘 마이크로소프트는 애저 퀀텀 엘리먼트를 발표하고 처음으로 AI와 양자를 결합함으로써 과학적 발견의 새로운 시대를 열게 됐다”라고 전했다.
애저 퀀텀 엘리먼트, HPC·AI·양자컴퓨팅 기술 통합
애저 퀀텀 엘리먼트는 고성능 컴퓨팅(HPC), AI, 양자컴퓨팅의 최신 혁신 기술을 통합해 과학적 발견을 가속화한다. 과학자와 제품 개발자는 애저 퀀텀 엘리먼트를 통해 R&D 파이프라인을 가속화하고 혁신 제품을 더 빠르게 시장에 출시해 시간과 비용을 줄일 수 있다. 일부 고객은 프로젝트 시작부터 솔루션 출시까지 6개월에서 1주일로 단축 효과를 기대하고 있다.
..........................................................................................................................
https://www.datanet.co.kr/news/articleView.html?idxno=184612
2023.3.
양자컴퓨터 오류율’ 수정 기술 찾았다
김형자 과학칼럼니스트 2023.03.16
구글 퀀텀 인공지능(AI) 연구팀이 양자컴퓨터 개발 과정에서 오류 수정 방법을 찾아냈다. 미국 컬럼비아대, 호주 시드니공대 등과 함께 연산에 사용하는 큐비트의 수를 늘리면서도 오류 발생 빈도를 대폭 낮추는 데 성공했다. 양자컴퓨터 실현의 필수적 단계인 ‘오류율’ 수정 기술 개발로 상용화의 길 또한 가까워 보인다.
큐비트 밀도 높이고도 오류율 줄이는 성과
.........................................................................................................................
http://weekly.chosun.com/news/articleView.html?idxno=24934
2023.6.
딥마인드, 새로운 AI 정렬 알고리즘 발견... 10여년 만의 진전
박찬 기자 2023.06.08
7일 네이처 통해 공개... 새 AI '알파데브'로 더 빠르고 효율적인 정렬 알고리즘 찾아
딥마인드가 새로운 AI ‘알파데브(AlphaDev)’를 사용해 더 빠른 정렬 알고리즘(sorting algorithm)을 발견했다. AI가 전에 없던 새로운 알고리즘을 발견해 인간의 기술 수준을 뛰어넘을 수 있다는 것을 보여준 점에서 주목된다.
딥마인드 연구진은 7일(현지시간) 네이처에 강화학습 기반의 새로운 AI ‘알파데브’가 기존보다 빠르고 효율적인 새 정렬 알고리즘을 발견했다고 발표했다.
연구진은 알파데브가 발견한 새 정렬 알고리즘을 프로그래밍 언어인 C++의 표준 라이브러리에 기본 알고리즘으로 추가했다. 지난 10여년 동안 새 알고리즘 추가는 이번이 처음이다.
컴퓨터 알고리즘은 주어진 문제를 해결하기 위해 컴퓨터가 수행 가능한 일련의 명령들을 순서적으로 구성한 절차나 방법을 말한다. 특히 정렬 알고리즘은 데이터를 오름차순 또는 내림차순으로 재구성하는 방법이다. 정렬과 같이 매일 수조 번씩 수행되는 기본 알고리즘은 성능을 최대한 높이는 것이 무엇보다 중요하지만 더 이상 개선하기 어려운 한계에 이른 것으로 여겨져 왔다.
알파데브는 바둑, 체스 등의 게임 방법을 스스로 배운 AI인 ‘알파제로(AlphazZero)’처럼 더 나은 알고리즘을 찾는 과정을 게임에 적용해 스스로 플레이하면서 학습하고 점수를 최대화할 수 있는 옵션을 발견한다. 인간이 플레이하는 게임에 대해 훈련되지 않았기 때문에 알파데브는 인간이 생각하지 못한 게임에 대한 접근 방식을 발견할 수 있다.
알파데브는 발견한 옵션으로 알고리즘을 만들고, 더 효율적인 정렬을 찾아내면 보상을 받거나 그렇지 않으면 패널티를 받는 강화학습을 기반으로 설계됐다. 한정된 영역이지만 알파데브는 게임을 통해 기존 알고리즘을 능가하는 새로운 정렬 알고리즘을 발견해 낸 것이다.
알파데브는 기존 방식에 비해 짧은 시퀀스를 정렬하는 경우 70%, 25만개 이상의 시퀀스에 대해 약 1.7% 효율성을 높이는 알고리즘을 발견했다. 사용자가 정렬 요청을 하면 알파데브의 알고리즘이 결과를 더 빠르게 정렬하는 데 도움이 될 수 있다. 대규모로 사용하면 막대한 시간과 에너지를 절약할 수 있다.
.......................................................................................................
https://www.aitimes.com/news/articleView.html?idxno=151590
2023.7.
'초지능 10년 안에 도래한다'... 오픈AI 대응팀 구성
정병일 기자
2023.07.06
오픈AI가 인간의 지능을 넘어서는 인공지능(AI)이 10년안에 나타날 것으로 보고 대응팀을 구성했다. 4년안에 기술적인 문제를 풀어내겠다는 것이 목표다.
오픈AI는 5일(현지시간) 블로그에 "일반 인공지능 또는 범용 인공지능(AGI)으로도 불리는 초지능이 지금은 멀게 느껴지지만 10년 안에 도래할 것으로 믿는다"면서 "AI를 인간 수준으로 자동 정렬하는 시스템을 구축한 다음 대규모 컴퓨팅을 사용해 초지능을 반복적으로 조정하는 방안을 추진하겠다"고 밝혔다.
이를 위해 일리아 슈츠케버 수석과학자와 제인 레이크 정렬 책임자를 공동 팀장으로 하는 '초지능 정렬팀'을 구성했다는 사실도 공개했다. 4년안에 기술적인 문제를 모두 풀겠다는 목표도 제시했다.
정렬 기술 개발 작업에 보유중인 컴퓨팅 능력의 20%를 할애하고, 연구팀을 보강하기 위해 연구원과 엔지니어도 신규 채용할 계획이라며 기계학습 전문가 참여도 요청했다.
오픈AI는 2015년 설립 당시부터 AGI 개발을 통해 인류에 공헌한다는 사명을 내세우고 이를 '헌장'으로 만들어 웹사이트에 게시했다. 여기에 AGI에 대한 정의도 담았다. '가장 경제적으로 가치 있는 작업에서 인간을 능가하는 고도로 자율적인 시스템'이라는 것이다.
.......................................................................................................
https://www.aitimes.com/news/articleView.html?idxno=152261
범용인공지능(AGI)의 공포
정병일 AI타임스 전문위원
2023.05.18
인공지능(AI) 기술이 비약적으로 발전하면서 AI가 가져올 위험성도 커지고 있다는 경고가 잇따르고 있다.
최근에는 'AI 대부'로 불리는 제프리 힌튼 토론토대 교수도 우려의 목소리를 강하게 내놓았다.
AI의 위험성을 알리기 위해 구글의 수석연구원직을 사임했을 정도다.
이후 여러 언론 매체와 인터뷰에서 "AI가 핵보다 위험하다"고 일갈했다.
AI의 위험성을 강조하는 그의 얼굴은 매우 어두워 보였다.
지난 50년 동안 인공신경망 개념을 개척하고 '역전파'라는 기술을 제안하는 등 심층학습을 선도해온 75세의 노학자가 자신이 해온 일을 후회하는 배경은 뭘까.
인간이 통제할 수 없는 범용 인공지능(AGI, Artificial General Intelligence)이 곧 도래할 수 있다는 인식 때문으로 보인다. AGI는 인간을 넘어서는 지능을 가진 자율적 인공지능을 말한다.
인간의 지도 없이 스스로 학습하며 발전하고 필요한 기능이나 기계를 창조할 수 있기 때문에 개념상 인류가 최후에 발명할 기계가 된다. 초지능, 일반인공지능이라는 용어도 같은 의미로 쓰인다.
힌튼 교수는 BBC 인터뷰에서 "얼마 전까지만 해도 AGI가 상용화되기 까지 20년에서 50년은 걸릴 것으로 생각했지만 지금은 20년 이하로 생각하고 있다"고 말했다. 트위터에는 5~20년이라고 썼다.
AGI가 인류를 멸망시키려 할 가능성이 있느냐는 질문에 그는 "상상할 수 없는 일이 아니다"며 "‘터미네이터’ 같은 킬러 로봇이 현실화될 수 있다"고 답했다.
AGI의 출현 가능성과 위험성은 여러 학자와 전문가가 언급했다. 고 스티븐 호킹 박사는 2014년에 "인간을 뛰어넘는 지능을 가진 AI는 스스로를 개량하고 도약할 수 있는 반면 인간은 생물학적 진화 속도가 늦어 경쟁할 수 없게 되고 결국 대체되고 말 것"이라고 예언하기도 했다.
일론 머스크 테슬라 CEO는 "AGI에 대항하기 위해 인간이 사이보그가 돼야 한다"는 주장을 편다. 또 대표적인 AGI 경계론자인 엘리저 유드코스키는 최근 타임지 기고문에 '임박한 AGI의 실존적 위협’을 차단하기 위해 "데이터센터를 폭격할 수 있어야 한다"고 썼다.
이들의 주장에는 모두 AGI에 대한 공포가 깔려있다. 본질은 통제불가능성에 대한 두려움이다. 인간을 넘어서는 지능과 심지어 의식도 가지게 된 기계가 인간의 가치에 맞게 ‘정렬(alignment)’ 하지 않을 수 있으며 이는 인류 멸망의 대재앙으로 이어질 것이라는 디스토피아적 전망이기도 하다.
그러나 AGI는 불가능하다는 주장도 만만치 않다. 불가능하니 걱정할 필요도 없다는 입장이다.
............................................................................
AGI가 이론적으로 개발하기 어렵다는 주장 외에 현실적으로도 어렵다는 지적도 있다. AI는 훈련 데이터만큼만 우수한데 아직 데이터가 충분하지 않은 분야가 적지 않다는 현실론이다.
.............................................................................................
https://www.aitimes.com/news/articleView.html?idxno=151182
2023.9.
美 빅테크 거물들 “AI규제, 정부가 나서야”
김보라 기자
2023-09-15
머스크-저커버그-게이츠-올트먼 등
美의회 포럼 참석 ‘규제’ 한목소리
‘현피’ 설전 벌였던 머스크-저커버그
이날 만났지만 대화는 나누지 않아
X(옛 트위터) 소유주인 일론 머스크, 마크 저커버그 메타 최고경영자(CEO), 빌 게이츠 마이크로소프트(MS) 창업자, ‘챗GPT 아버지’ 샘 올트먼 오픈AI CEO 등 미국 빅테크 거물들이 한자리에서 한목소리로 인공지능(AI) 규제를 주문했다.
13일(현지 시간) 척 슈머 민주당 상원 원내대표가 미 의회에서 비공개로 개최한 ‘AI 인사이트 포럼’에서 머스크는 “AI는 양날의 검”이라며 “엄청난 잠재력을 지니고 있지만 동시에 문명에 대한 위험도 내포하고 있다”고 경고했다. 슈머 원내대표에 따르면 머스크는 특히 “(앞으로) 이해하기 어려울 정도의 지능을 가진 데이터센터가 인류를 위협할 수 있다”며 “더 심화된 인공지능(deeper AI)을 경계해야 한다”고 강조했다.
머스크는 포럼이 끝난 뒤 기자들의 질문에 “스포츠에 심판이 있듯 연방항공청(FAA)이나 증권거래위원회(SEC)처럼 AI 담당 부처가 필요하다”고 주장했다. 앞서 머스크는 올 3월 사회에 위험이 된다며 챗GPT보다 강력한 시스템 개발을 6개월간 중단해 달라고 촉구했다.
저커버그도 규제에 찬성하며 “미국만의 (규제) 표준을 만드는 것이 중요하다”고 말했다. 그러면서 “기본 AI 시스템 소스코드를 공개하면 혁신이 촉진될 것”이라고 제안했다. 반면 게이츠는 “보안을 뚫고 유해 정보가 퍼지는 등 부작용이 있을 수 있다”며 반대했다.
이날 포럼에는 이 밖에도 젠슨 황 엔비디아 CEO, 순다르 피차이 구글 CEO 등 미국 AI 기술을 주도하는 업계 인사 10여 명과 상원의원 60여 명이 참석했다. 슈머 원내대표는 “방식은 다르지만 참석자 모두 정부가 AI 규제에 역할을 해야 한다는 데 동의했다”고 밝혔다. 미 뉴욕타임스(NYT)는 “(이 포럼이) AI (규제) 방향에 영향을 미칠 것으로 보인다”고 전했다. 다만 구체적인 규제 내용에 대한 합의는 없었다고 CNN 방송은 보도했다.
....................................................................................................................................
https://www.donga.com/news/People/article/all/20230915/121190177/1
2023.10.
AI, 5년 뒤 사람보다 더 똑똑해진다
토론토 대학교 제프리 힌튼 교수 AI가 사람 통제할 수도… 전 인류 경각심 가져야
입력 2023.10.09
김미정 기자
5년 뒤 인공지능(AI) 추론 능력이 사람보다 더 뛰어날 수 있다. 더 똑똑한 AI가 인간을 통제하는 시대가 오고 있다. 지금이야말로 AI 위험성에 대한 경각심을 갖고 이에 대한 대비책을 마련해야 할 때다.
토론토대 제프리 힌튼 컴퓨터공학과 교수는 8일(현지시간) 미국 CBS '60분'과 진행한 인터뷰에서 5년 안에 AI 추론 능력이 인간을 뛰어넘을 것이라며 이같이 밝혔다. 힌튼 교수는 AI가 예상보다 더 똑똑할 수 있다며 사람은 이에 대한 경각심을 가져야 한다고 강조했다.
제프리 힌튼 교수는 향후 AI 추론 능력이 사람을 뛰어넘을 수 있는 이유도 밝혔다. 힌튼 교수 설명에 따르면, 현재 가장 성능 높은 AI 챗봇 매개변수는 1조개다. 반면 인간 뇌 매개변수(시놉시스)는 약 100조개다.
힌튼 교수는 챗봇이 사람보다 매개변수는 적지만, 더 복잡한 일을 사람보다 더 잘 이해, 처리할 수 있다는 입장이다. 그는 일반적으로 사람은 복잡한 일을 처리할 경우, 이를 충분히 숙지하고 이해해야 한다고 말했다. 사람은 뇌에서 무슨 일이 일어나는지, 신경망이 이를 어떻게 받아들이는지 인지하지 못하기 때문이다.
그는 반면 AI는 말 그대로 기계라며 매개변수 간 연결성과 정보 처리 과정을 사람보다 더 잘 안다고 설명했다. 힌튼 교수 설명에 따르면, AI가 난이도 높은 업무를 수행할 경우 학습 알고리즘을 통해 데이터와 상호작용하면서 복잡한 신경망을 새로 만든다. 해당 신경망을 통해 복잡한 업무를 즉각적으로 받아들이고 처리할 수 있다.
제프리 힌튼 교수는 AI의 이런 능력이 더 발달한다면, 향후 자율적으로 컴퓨터 코드를 생성·실행할 수 있을 것이라고 예측했다. 컴퓨터 시스템이 인간 통제를 벗어날 수 있다는 의미다. 그는 이를 통해 AI가 사람을 조종할 수 있을 것이라고 강조했다. 힌튼 교수는 AI는 지금까지 인류가 작성한 모든 뉴스, 소설, 기밀 서류 등을 학습했다며 사람을 조종하고 설득하는 데 매우 능숙할 것이라고 덧붙였다.
힌튼 교수는 AI가 향후 자의식까지 가질 수 있다고 말했다. (사진=CBS)
제프리 힌튼 박사는 AI가 추론 능력을 더 기르면 향후 자의식까지 가질 수 있다고 말했다. AI가 현재 데이터에 기반해 추론하는 것에 그치지만, 향후 자율적인 컴퓨팅 조종으로 자율적인 판단이 가능하다는 이유에서다.
힌튼 박사는 향후 AI 추론 능력을 악용하는 사람이나 조직도 늘어날 것이라고 경고했다. 그는 해당 추론 능력이 가짜뉴스 생산, 자율 전장 로봇 개발에 활용될 것이라고 지적했다. 제프리 힌튼은 지금이야말로 각국 정부가 AI를 이해하기 위한 실험을 진행하고, 규제를 도입하고, 군사용 로봇 사용을 금지하는 조약을 체결해야 할 때라고 강조했다.
2023.11.
‘알파고 개발’ AI 천재는 왜 올트먼에 맞서 쿠데타 일으켰나
올트먼 축출 주도했던 수츠케버
실리콘밸리=오로라 특파원
2023.11.23.
“일반 인공지능(AGI·Artificial General Intelligence)과 인간의 관계는 인간이 동물을 대하는 방식과 비슷할 겁니다. 인간이 동물을 미워하진 않죠. 그렇다고 고속도로를 만들 때 우리가 그곳에 있는 동물들에게 동의를 구하진 않잖아요”
일리야 수츠케버 오픈AI 이사(최고 과학자)는 지난 8월 방영된 BBC 다큐멘터리 ‘i휴먼’에 출연해 인간과 동등한 기능을 수행하는 고성능 AI ‘AGI’의 출현이 “인류에게 혜택일지 모르겠다”고 했다. 그는 “나는 AGI가 아주 빠른 시일 내 나타날 것이라 보며, 당장 대비를 시작해야 한다고 믿는다”고 했다.
22일(현지 시각) 5일 천하로 끝난 샘 올트먼 오픈AI 최고 경영자(CEO) 축출 사태를 주도했던 수츠케버는 단 한 번도 구체적인 이유를 설명하지 않았다. 다만 실리콘밸리 AI 업계에선 ‘급진적 AI 상업화에 나서는 올트먼을 자신이 멈춰 세워야 한다고 생각했을 것’이라는 분석이 나온다. 그는 오픈AI 직원 전체가 사표를 내겠다며 사태가 커지자, 돌연 올트먼 복귀를 지지하는 쪽에 섰다. 오픈AI의 공중분해는 막겠다는 이유였다.
수츠케버와 접점이 있는 사람들은 그에 대해 ‘말도 안 되게 똑똑하고 착한 사람’이라고 표현한다. ‘오픈AI 개발자 700명보다 수츠케버 한 사람이 더 뛰어나다’는 평을 들을 정도로 AI 개발 능력이 뛰어난 데다, 종교적인 신념으로 AI가 인류에게 미칠 위협을 우려한다는 것이다. 그는 “지금 AI 개발 속도가 10이라면, 우리는 1이나 2 정도 속도로 AI를 개발해야 한다”고도 말한 적 있다.
그는 2002년 ‘딥러닝의 아버지’ 제프리 힌턴 교수가 있는 토론토대에 진학했다. 힌턴 교수 밑에서 컴퓨터 과학 박사과정을 지낸 그는 오늘날 딥러닝의 시초로 불리는 ‘알렉스넷’ 개발에 참여했고, 그 후 구글에 채용돼 바둑 AI ‘알파고’ 개발을 주도했다. 현재 AI 시대를 연 주요 장면마다 그가 있었던 것이다.
구글에서 승승장구하던 수츠케버를 빼낸 것은 일론 머스크 테슬라 CEO였다. ‘안전한 AI의 발전’을 모토로 삼은 비영리 재단 ‘오픈AI’를 구상한 머스크에게 AI 안전에 관심이 많은 수츠케버는 빠져서는 안 되는 핵심 인재였다. 머스크는 수츠케버에게 “구글은 전 세계 AI 연구자 3분의 2를 보유하고 있지만, 안전에는 신경 쓰지 않는다”며 회유했다.
하지만 21일 올트먼 CEO가 오픈AI로 전격 복귀하게 되면서, 수츠케버가 지키려던 ‘AI 안전 개발’ 이념은 요원해질 것으로 보인다. 와이어드는 “이사회에서도 잘리고, 명분도 지키지 못한 수츠케버가 이번 사태 최고의 루저(패배자)”라고 했다.
글로벌 정책 결정자들 사이에선 ‘AI 개발에 대한 국가적 개입을 강화해야 한다’는 목소리가 나온다. 21일 로이터통신에 따르면 강력한 AI 규제법을 제정하고 있는 유럽연합(EU)에선 오픈AI 사태 이후 AI 기술 기업에 자율 규제를 어느 정도 허용해야 할지 논의가 시작됐다. 핵무기처럼 위험한 AI 기술을 개발하는 기업에서 내부적으로 반란이 일어나고, 이 회사가 보유한 중요 데이터와 기술이 어디로 흘러갈지 모르는 불안정한 경우가 재연돼서는 안 된다는 것이다.
AI 개발 기업의 투명성을 요구하는 목소리도 높아지고 있다.
...................................................................................................
https://www.chosun.com/economy/tech_it/2023/11/23/ANQFE6BLKJBDBIRU36DBYCJ3K4/ |
2023-11-28 16:14:44
121.xxx.xxx.63 |
|
|
|
|
