<현대산책> Ep.03 인간의 추락, 인공지능의 시대

인공지능의 시대 우리는 어떻게 살아가야 할까?

2023. 12. 27.

Ep01.당신도 깊은 심연을 들여다본 적 있나요?

<현대산책>

Ep.03 인간의 추락, 인공지능의 시대

더욱 막강해지는 인공지능으로부터 인간을 보호하기 위한 여러 가지 노력과 연구가 진행되고 있습니다. 이번 산책에서는 그중 가장 앞서있고 흥미로운 개념을 제시한 OpenAI의 사례를 공유하고, 저번 주 진행한 인공지능 편의 사유를 통해 조금 더 사유를 확장해 보고자 합니다.

*현대산책은 당분간 비정기적으로 발행됩니다.

OpenAI_ 작은 것으로 큰 것을 통제할 수 있을까?

7월 5일 OpenAI(ChatGPT개발사)는 인공지능으로부터 인류의 안전을 도모하기 위한 연구에 착수했습니다. 그들의 목표는 궁극적으로 인공지능이 인공지능을 통제하도록 하는 것입니다. OpenAI는 인간보다 훨씬 더 똑똑한 '초지능(AI) '이 10년 이내에 개발될 수 있으나 아직 이를 통제하기 위한 연구의 부족을 강조하며 해결 방안으로 이른바 '정렬 연구' 의 혁신을 언급했습니다. 동시에 이 문제를 해결할 '초정렬(Super alignment)'팀을 구성했습니다.

그리고 12월 14일 최근까지 진행된 연구의 성과와 이해를 돕기 위한 개념을 소개했습니다. 초정렬의 핵심 개념은 '더 작은 모델을 사용하여 더 큰 모델을 감독할 수 있지 않을까?' 라는 것입니다. 즉 인간이 통제 가능한 수준의 정렬 전문 인공지능을 개발해 인공지능이 직접 정렬 연구를 수행하고 인간이 통제하고 예측하기 어려운 '초지능(AI)'을 통제하게 하는 것입니다.

아래의 사진을 한번 예시로 보겠습니다.

(사진_OpenAI)

OpenAI가 제공한 사진으로 초정렬의 개념을 비유적으로 보여줍니다.

전통적인 기계 학습(ML)에서 인간은 자신보다 약한 인공지능을 감독합니다(왼쪽 사진). 앞으로 초지능을 정렬하기 위해 인간은 AI 시스템을 자신보다 더 똑똑하게 감독해야 합니다(가운데 사진). 초지능을 정렬하고 감독하기 위한 초정렬은 인간이 통제 가능한 작은 모델이 인간보다 더 큰 모델을 감독하는 것입니다. (오른쪽 사진)?

연구의 결과 (자세한 과정과 논문은 직접 확인할 수 있게 하단에 링크를 제공하겠습니다.)

이 아이디어에 기반을 둔 연구는 완벽한 성공은 아니지만, 상당히 유의미한 가능성을 보여주었습니다. 그리고 OpenAI는 기계학습 커뮤니티가 이 연구를 진행할 수 있도록 오픈 소스 코드를 제공하기로 했습니다. 동시에 대학과 학자들에게 1,000만 달러의 보조금을 지원하는 프로젝트도 진행하기로 했습니다. OpenAI는 이 연구가 앞으로 더욱 강력해질 인공지능을 적절히 통제하는 것에 있어 굉장히 중요한 첫걸음이라 생각하고 더욱 많은 사람이 연구할 수 있도록 소스를 공개하고 자본을 지원하기로 한 것입니다.?

산책 제안: 추락하는 인간, 그리고 다가올 인공지능의 시대

인공지능을 제대로 감시하지 못하고, 통제할 방안을 고안하지 못한다면 인류의 미래는 상당히 디스토피아 적일지도 모릅니다. 그럼에도 이렇게 가깝게 다가온 인공지능의 시대를 우리는 크게 체감하지 못하고 있습니다. 우리가 스스로 다가올 시대에 대해 깊게 생각하지 않는다면 인공지능의 시대에 우리는 그저 저지능의 무언가로 전락할 것입니다.

인간은 고귀하고 그 자체로 하나의 우주인 엄청난 가능성을 지닌 존재라는 말을 저는 굉장히 좋아하고 또 그렇게 믿습니다. 그러나 냉정하게 이것은 어디까지나 이것은 우리 인간의 시대에 맞는 레토릭일 뿐입니다. 다가올 인공지능의 시대에는 어떻게 될까요?

Open AI 원문

인공지능

<지난 주의 선배 산책자>

"개인정보를 보호하라 습관까지도!"

니체의 원서를 학습한 인공지능은 진짜 살아있는 니체처럼 말하고 사유한다. 만약 당신의 언어습관과 당신의 생각이 담긴 자료가 있고 그것을 학습한다면, 당신처럼 말하고 생각하는 인공지능은 언제든 탄생할 수 있다. 딥페이크 기술과 합쳐진다면, 그 결과는 정말로 끔찍할 것이다.

[다시 산책하기]

인공지능 그리고 산책자의 사유이번 산책에서는 이제는 개인의 습관까지도 인공지능이 학습하여 악용될 수 있음을 확인하고, 인공지능의 악용을 막기 위해 우리가 할 수 있는 것에 대해 함께 사유해 보았습니다.

*남겨주신 모든 사유는 하단의 하이라이트 링크를 통해 확인 가능합니다.

산책 주제

빠르게 진화하는 인공지능의 악용을 막기 위해 우리는 무엇을 할 수 있을까요?

FROM UNKNOWN PROMENADER

확실하게 드는 생각은 이것을 다루기 위한 우리는 지금보다 더 나은 사람이 되어야 한다는 것.. 인공지능을 도구로 이용할 수 있는 지혜를 길러내야겠어요.

FROM UNKNOWN PROMENADER

강물을 거스르는 연어처럼 수천 년 전 고전을 다시 익혀야겠지요. 역사는 원형의 모습과 닮았다고 생각해요. 옛 지혜인들의 고뇌가 고스란히 담긴 활자들 속에서 정답에 가까운 무언가를 찾을 수 있으리라 믿습니다.

FROM UNKNOWN PROMENADER

우린 이미 무엇과도 그리고 누구와도 연결된 채로 살아가고 있고 그 관계를 끊을 용기도 없다고 생각하기에 우리가 할 수 있는 것이 없다고 생각한다. 그러므로 발전을 가속화하는 수밖에 없다고 생각한다.

FROM UNKNOWN PROMENADER

인공지능의 충직한 데이터칩이 되어, 나 없이 인공 지능이 아무것도 못 배우게 만든다. 상호의존관계 형성, 그러면 서로가 서로의 감시자가 되어 악용한다 하더라도 악용을 감지하는 능력도 동시에 빠르게 진화하며 별문제 없을 것이다.

FROM UNKNOWN PROMENADER

정부와 같은 기관이 이를 통제해야 한다. 윤리적 검토가 이루어지지 않는다면 브레이크 없는 자동차와 같다

FROM UNKNOWN PROMENADER

있는 지식을 응용해 새로운 것을 이룰 수 있는 창의력을 키워야 하지 않을까..

FROM UNKNOWN PROMENADER

인공지능에 대한 교육을 강화해야 합니다. 생각보다 우리는 인공지능에 대해 모르는 것 같습니다.

FROM UNKNOWN PROMENADER

인간조차 논리적 설명이 불가한 모순 및 개인사유의 측면을 강화해야 할 것 같습니다

(메일의 공간이 협소하여 일부 사유만 전합니다. 남겨주신 사유는 모두 인스타 페이지 하이라이트에 모여있으며, 후에 오픈할 사이트를 통해 남겨주신 사유들을 모두 모아두고자 합니다. 남겨주신 모든 사유가 가치 있으며 세계를 변하게 할 것입니다.)

*이번화의 제목은 사유_인공지능 입니다.

사유 하이라이트

선배 산책자 AI 니체에 관하여

저번 주에 우리는 인공지능 니체와 함께 사유했습니다. 현대산책자가 ’인공지능 니체‘에게 요청한 ‘답변의 원칙’은 정답이나 해답을 제공하는 것이 아닌, 니체의 사상과 저서에 근거하여 새로운 관점이나 사유의 방향을 제공하여 산책자들의 자유로운 사유를 보조하는 것입니다.

현대산책자는 과거의 지성을 통해 스스로 사유하고, 그 사유를 신기술에 접목하여 적절히 통제하고 활용한다면 분명 더 나은 사유로 나아갈 수 있다고 믿습니다. 중요한 것은 여러분이 ‘인공지능 니체’에게 한 것처럼 스스로 먼저 사유하고 질문하는 것입니다.

인공지능의 활용은 마치 모든 책이 보관된 도서관에서 유능한 사서에게 필요한 책을 요청하는 것과 같습니다. 그러면 유능한 사서는 본인이 알고 있는 책 중 가장 관련도가 높은 책을 내어줍니다. 즉 달리 말하자면 정말 필요한 게 있더라도, 그것이 무엇인지 스스로 정의하지 못한다면, 제아무리 적합한 책이 존재하고, 유능한 사서가 도와주더라도 절대 찾지 못할 것입니다.

우리는 이제 모든 지식이 보관된 도서관에 접근할 수 있습니다. 이제 우리는 진짜 필요한 것, 정말 궁금한 것이 무엇인지 정확하게 알고 정의할 수 있어야 합니다. 그러기 위해서는 스스로 질문하고 나름대로 사유하는 과정이 필요합니다. 앞으로의 시대는 스스로 질문하고 사유하는 자만이 독자적인 인간으로 남을 수 있을 것입니다.

현대산책자는 과거의 지식과 현대의 기술을 적절히 활용하여 여러분의 사유 순간을 돕겠습니다. 인공지능 니체는 시범적으로 1월 오픈 예정인 현대산책자의 사이트에 탑재될 예정입니다.

오늘도 당신의 사유로부터 세계가 변하길 기대합니다. 감사합니다.

<현대산책>을 구독하고 메일로 받아보세요!

<현대산책>구독