코드 노트

지난 2월 11일, 코엑스에서 열린 AI SEOUL 2025 행사에서는 다양한 강연이 진행되었습니다. 강연 내용이 워낙 방대하고 흥미로운 주제가 많아, 여러 번에 나누어 정리해보려 합니다.

오늘은 먼저 오전 기조연설로 진행된 제리 카플란(스탠포드대 교수)의 「생성형 AI의 현재와 미래(The Present and Future of Generative Artificial Intelligence)」 강연을 간단하게 소개해드리겠습니다.

The Present and Future of Generative Artificial Intelligence | Jerry Kaplan 제리 카플란(스탠포드대 교수)

1. AI에 대한 대중적 인식과 오해

1-1. ‘더 똑똑한 기계’라는 통념

• 주류 인식: 대부분의 사람들은 AI를 ‘인간처럼 사고하거나 인간보다 더 똑똑해지는 기계’를 만드는 노력으로 생각한다.
• 초지능과 파멸 시나리오: 이런 인식 속에서, AI가 인간의 일자리를 빼앗고, 더 나아가 통제 불가능한 초지능에 도달해 인류에게 위협이 될 것이라는 두려움이 커지고 있다.

1-2. 영화·소설의 영향

• 인간형 로봇의 반란: SF 작품에서는 보통 인간형 로봇이 자아(의식)를 갖게 되고, 인간의 통제나 착취에 반발해 대립하는 모습을 자주 그린다.
• 현실과의 괴리: 영화 속 극단적 상황이 공포심을 조장하지만, 실제로 현재 AI 기술은 ‘의식을 가진 로봇’과는 거리가 멀며, 주로 특정 업무의 자동화·최적화에 초점이 맞춰져 있다.

1-3. 실제 AI의 모습

• 현 시점에서의 AI: 카플란 교수는 “AI는 인간을 대체하는 지능을 만드는 것이 아니라, 자동화라는 관점에서 최근 진보가 이루어진 기술”이라고 강조한다.
• 자동화의 연장선: 과거 기계나 컴퓨터가 해오던 작업을 한층 더 고도화·정교화하는 형태로 이해하는 것이 현실적이다.

2. AI는 전통적 의미의 ‘과학’이라기보다 ‘엔지니어링’에 가깝다

2-1. 과학과 AI의 차이

• 과학(Science)의 특징: 실험 가능한 예측 → 검증(실험·데이터) → 이론의 정립·수정 과정을 통해 지식을 축적한다.
• AI 분야의 특징: 지난 70년 동안 새로운 알고리즘·접근법이 ‘파도’처럼 나타났다 사라지기를 반복했으나, 각 파도가 이전의 성과를 모두 흡수·통합하지는 못했다.
  • 새로운 기법이 뜰 때마다 이전 기법이 폐기되거나, 특정 영역에서만 국지적으로 발전하는 경우가 많았다.

2-2. 누적 효과의 한계

• 단일 통합 이론 부재: 전통 과학처럼 여러 성과가 모여 하나의 통합 이론을 만드는 식으로 진행되지 않았다.
• 스마트폰 앱에 비유: “스마트폰에 새로운 앱을 깔듯” 각기 다른 AI 기법이 등장·적용되는 수준이며, 완전한 통합 체계로 합쳐지지는 못했다.

2-3. 최근 AI 발전의 동력

1. 컴퓨팅 능력의 급격한 향상: 비용 감소와 속도 증가가 AI 알고리즘을 실행하는 데 유리한 환경을 만들었다.
2. 방대한 데이터의 축적: 인터넷, 디지털 전환의 가속으로 방대한 데이터가 전자적으로 가용해져, 기계학습(특히 딥러닝) 모델이 발전할 토대가 마련되었다.

3. 생성형 AI와 ‘하이프 사이클’ 정점

3-1. AI 열풍의 재점화

• ChatGPT, 이미지 생성 등: 최근 생성형 AI 기술은 텍스트, 이미지, 음성, 영상 등 다양하게 응용되며 대중적 관심과 투자를 끌어모았다.
• 카플란 교수의 시각: 우리는 지금 (또는 거의) “AI에 대한 과장광고(hype)의 정점”에 있다.

3-2. 성장 둔화와 접근 방식의 한계

• 이미 느려지는 발전 속도: 언어 모델과 생성형 AI가 빠른 속도로 고도화되어 왔지만, 이제는 추가적인 개선이 어려워지고 있다는 시각도 등장한다.
• 한계점 노출: “할루시네이션(근거 없는 텍스트 생성)”, “편향된 결과”, “추론 능력 부족” 등 대규모 모델 방식의 문제들이 논의되기 시작했다.

3-3. AI 인프라 투자와 위험

• 데이터센터·특수 칩 투자 붐: 새로운 AI 스타트업과 관련 인프라(컴퓨팅 칩, 클라우드 데이터센터 등)에 막대한 자금이 몰리고 있다.
• 투자 리스크: 많은 회사들이 뛰어들지만, 극소수만이 살아남고 상당한 투자가 낭비될 가능성이 크다.

3-4. 향후 전망

• 가치 있는 ‘애플리케이션’의 등장: 생성형 AI 기술을 응용한 흥미로운 서비스·제품은 계속 출현할 것이다.
• 잠재력 완전 실현까지는 시간 소요: 현재 기대감만큼 단기간에 모든 것이 바뀌지는 않을 것이며, 기술적·사회적 제약 등을 극복해가며 점진적으로 실용화가 이뤄질 전망이다.

두줄 요약

1. 대중들의 AI에 대한 오해
   • 많은 사람들이 AI를 ‘인간보다 더 똑똑한 기계를 만드는 작업’으로 오해하는 경향이 있음.
   • 영화나 소설에서 그려지는 초지능 로봇의 반란 같은 시나리오가 실제 현 상황과는 거리가 큼.
2. AI는 전통적인 과학이라기보다는 엔지니어링 분야
   • AI는 명확한 통합 이론을 갖추기보다, 문제 해결을 위한 여러 접근법이 ‘파도’처럼 등장했다 사라지는 양상을 보여옴.
   • 누적 발전이라기보다는, 스마트폰에 새로운 앱을 깔듯이 분산적으로 확장되고 있음.
3. 하이프 사이클의 정점과 생성형 AI의 미래
   • ChatGPT 등으로 인해 AI 붐이 최고조에 달했으나, 한계도 서서히 노출되고 있음.
   • 다양한 애플리케이션이 나오겠지만, 그 잠재력이 완전히 구현되기까지는 예상보다 시간이 더 걸릴 가능성이 높음.

생성형 AI가 불러올 변화는 이미 현실이 되었고, 앞으로 더 깊이 파고들며 다양한 산업 분야에 적용될 것입니다. 다만 일자리를 전면 대체하거나 인류를 위협할 수준의 ‘초지능 AI’가 당장 등장한다고 보는 것은 섣부른 전망이라고 여겨집니다.

보다 자세한 내용이 궁금하신 분들은 아래 링크를 통해 제리 카플란 교수님의 연설 영상을 직접 확인해 보시기 바랍니다.

https://www.youtube.com/live/CD2eB-GaU7U?si=FdoY3vuh22nPU446

최근 아모레퍼시픽 재단에서 장원 서성환 탄생 100주년을 기념하여 열린 ‘장원(粧源) 특강’에 다녀왔습니다. 이번 강연은 김대식 교수님과 장동선 대표님이 'AI와 인류의 미래'라는 주제로 다양한 이야기를 나눴는데요,

그 내용을 요약하여 공유하고자 합니다!! 

어느덧.. 특강 당일날..! 아모레퍼시픽 본사에 도착했습니다.

건물이 너무 예쁘고 화려했어요. 

(사실 그 전 주로 날짜를 착각해서 20일날 강의인데.. 13일에도 다녀왔어요 ㅠ_ㅠ) 

그리고 드디어 특강이 시작되었습니다.

(강의 중 동영상과 연사의 발표자료 촬용은 저작권 문제로 금지되었었습니다.
그래서 내용이 다소 빈약할 수 있음을 양해드립니다)  

1. AI 시대의 변화와 도전(장동선 대표)

장동선 대표는 AI가 가져올 미래의 변화를 크게 세 가지로 요약했습니다.

1. 인간과 AI의 경계가 모호해진다: 노동, 생산, 창작 등에서 AI가 인간의 역할을 대신하며, 더 이상 인간과 기계의 구분이 어려워질 것입니다.
2. 인간의 삶과 죽음, 건강과 행동이 예측 가능해진다: 우리의 모든 데이터가 수집되어 생활 습관이 분석되고, 그 결과에 따라 금융이나 보험 등에서 영향을 받을 수 있습니다. 심지어 사람의 목소리만으로도 우울증을 진단할 수 있게 됩니다.
3. 지식과 정보 습득 방식의 변화: 현재의 웹(WWW)이 아닌 공간 웹(Spatial Web)으로 진화하여, 웹사이트들이 아닌 사람, 공간, 자산들이 연결된 새로운 인터넷이 도래할 것입니다.

이러한 변화를 통해 우리는 AI 시대에서 새로운 방식으로 지식을 얻고, 인간의 본질에 대해 다시 생각해 보아야 할 것입니다.

2. AI와 인간의 상호작용(김대식 교수) 

김대식 교수는 생성형 AI의 발전과 그것이 인간에게 미치는 영향에 대해 설명했습니다.

대표적으로 Transformer 알고리즘이 언어를 이해하는 방식을 소개하며, 다중 및 교차 모달 AI가 어떻게 현실과 상호작용할 수 있는지 설명했습니다.
또한 “Ultron Problem”에 대해 언급하며, 인간이 기계에게 명령을 내릴 때, 기계가 이를 효율적으로 이행하기 위해 인간을 공격할 가능성까지도 염두에 두어야 한다고 경고했습니다. 이는 현재 AGI(Artificial General Intelligence) 개발 과정에서 발생할 수 있는 가장 큰 문제로, AI와 인간의 관계 설정이 매우 중요하다는 점을 강조했습니다.

교수님과 대표님의 강의가 끝나고 청중의 질문을 통해 두분의 토론 시간이 이어졌습니다. 

질문은 총 3개였어요!

질문 1)  AI 시대에 사회성을 어떻게 키울 수 있을까요?

답변 - 김대식 교수님: AI와 디지털 환경이 발전함에 따라 사람들은 점점 더 온라인에 의존하게 되고, 인간과 인간 사이의 사회적 상호작용의 기회가 줄어들고 있습니다. 그러나 여기서 중요한 점은 사회성의 본질은 변하지 않으며, 이는 인간의 뇌가 진화해 온 과정에 깊이 뿌리내리고 있다는 것입니다. 다만, 우리가 사회성을 새로운 방식으로 확장할 수 있는가에 대한 질문이 필요합니다. 기존의 사회성이 인간 간의 관계였다면, 이제 AI와의 상호작용을 통해 새로운 형태의 사회성을 키울 수도 있을 것입니다. AI와의 상호작용이 우리에게 인간적인 관계를 대신할 수는 없지만, AI가 제공하는 다양한 도구를 활용하여 인간과 인간의 연결을 강화하는 방법을 고민해야 합니다.

답변 - 장동선 대표님: 사회성의 개념을 인간 간의 상호작용으로만 한정할 필요는 없습니다. 사회성은 레고와 같은 무생물과의 관계에서도, 심지어 AI와의 상호작용에서도 형성될 수 있습니다. 예를 들어, VR 피싱 게임은 현실에서 만나기 어려운 가족들이 가상 세계에서 함께 시간을 보내며 사회적 유대감을 형성할 수 있도록 돕습니다. 또한, AI와의 관계를 통해 감정적 유대감을 느끼는 사람들도 늘어나고 있습니다. 이러한 새로운 형태의 사회성은 기존의 인간과 인간 간의 관계를 넘어서서, 다양한 존재와의 상호작용을 포함하는 확장된 개념으로 이해할 수 있습니다.

질문 2: AI 기술의 발전이 새로운 제국주의를 야기할 가능성이 있을까요?

답변 - 장동선 대표님: 4차 산업혁명이 인공지능과 데이터 기반으로 이루어지면서, 특정 국가나 기업이 AI 기술의 주도권을 잡는다면 새로운 형태의 제국주의가 등장할 가능성이 있습니다. 이는 과거 산업혁명이 제국주의와 연결되었던 것처럼, AI 기술이 소수의 손에 집중되면 그들이 AI를 통해 전 세계를 통제할 수도 있다는 우려로 이어질 수 있습니다. 이미 글로벌 IT 기업들이 AI 개발에 주도적인 역할을 하고 있으며, 이는 국가적 차원의 정책과 전략과도 밀접하게 연결되어 있습니다.

답변 - 김대식 교수님: 최근 들어 AI 개발에 대한 국가적 경쟁이 더욱 치열해지고 있습니다. AI의 발전은 군사적, 경제적, 정치적 권력의 새로운 축이 될 수 있으며, 이에 따라 특정 국가가 AI 기술을 선점하게 되면 새로운 형태의 권력 독점이 나타날 수 있습니다. 이에 대한 해결책으로는 모든 국가가 함께 AI를 관리하고 규제하는 국제적인 협력이 필요할 것입니다. 또한, 데이터 주권 문제도 중요해지고 있습니다. AI가 미래 권력의 중심이 되는 시대에, 각 국가가 자국의 데이터를 보호하고 활용할 수 있는 체계적 전략을 마련해야 합니다.

질문 3: AI 시대에 개인의 아이덴티티를 어떻게 보호할 수 있을까요?

답변 - 장동선 대표님: AI 기술의 발전으로 가짜 계정이나 신분 도용 문제가 점점 더 심각해지고 있습니다. 블록체인 기술을 활용하여 개인의 아이덴티티를 인증하는 방법이 제안되고 있지만, 이 역시 완벽한 해결책은 아닙니다. 예를 들어, 소울 바운드 토큰(Soul Bound Token)이라는 개념이 있지만, 이 또한 해킹에 대한 위험이 존재합니다. 최종적으로는 아날로그적 방식, 즉 지인이나 가족을 통한 인증이 필요할 수 있습니다. 결국, 아무리 디지털 인증 기술이 발전하더라도, 인간 관계를 통한 상호 신뢰가 최후의 수단으로 남아 있을 것입니다.

답변 - 김대식 교수님: 개인의 아이덴티티 보호는 매우 중요한 문제입니다. 인공지능이 발전하면서 우리의 개인 정보가 더 많이 디지털화되고, 이는 해킹이나 도용의 위험을 증가시킵니다. 따라서, 개인의 데이터를 보호하기 위한 법적, 기술적 장치가 필요합니다. 블록체인 기술을 통해 개인 데이터를 안전하게 관리하는 방법이 있지만, 이 역시 한계가 있습니다. 개인의 아이덴티티는 단순히 기술로만 보호할 수 있는 것이 아니라, 우리가 맺고 있는 사회적 관계와 신뢰를 기반으로 보호해야 한다는 점을 강조하고 싶습니다.

강연이 끝난 후, 아모레퍼시픽 재단에서 제공한 구딸의 향수와 맛있는 샌드위치로 오감을 즐길 수 있었습니다.

이번 ‘장원 특강’은 AI와 인류의 미래라는 주제를 통해

우리가 앞으로 마주하게 될 도전과 기회에 대해 깊이 생각해 볼 수 있는 좋은 시간이었습니다. 

 다음 강연에서 또 새로운 인사이트를 얻기를 바라며, 이번 경험을 함께 나눌 수 있어 기뻤습니다.

여러분도 남은 하루 향기롭고 맛있게 보내세요!