Your browser does not support JavaScript!

AI 연구 동향과 안전성, 한국의 역할

일반 리포트 2024년 11월 07일
goover

목차

  1. 요약
  2. 리서치앳 코리아 행사 개요
  3. AI 연구 동향 발표
  4. AI 안전성 향상 방안
  5. 글로벌 AI 생태계와 한국의 역할
  6. 결론

1. 요약

  • 구글은 서울 포시즌스 호텔에서 '리서치앳 코리아' 행사를 개최하여 전 세계 AI 연구자들이 최신 연구 동향과 AI 안전성 향상 방안을 공유했다. 약 300명의 참석자가 참여한 이번 행사에선 구글 리서치의 마야 쿨리키 부사장과 캐서틴 초우 프로덕트 총괄 등이 연사로 나섰다. 콕스웨이브의 김기정 대표는 AI 모델의 취약성 평가와 잠재적 위협 예방 방법을 발표했다. 주요 발표에서는 노트북LM, 메드-제미나이, 커넥토믹스와 같은 구글의 선도적인 AI 기술들이 소개되었다. 행사에서는 AI 개발자와 연구자들이 자유롭게 교류하며 한국 AI 스타트업의 성장 가능성을 모색하는 자리도 마련되었다.

2. 리서치앳 코리아 행사 개요

  • 2-1. 행사 개최 배경 및 목적

  • 구글은 국내 연구자들을 대상으로 인공지능(AI) 분야의 최신 연구 동향을 공유하기 위해 2024년 8월 27일 서울 포시즌스 호텔에서 ‘리서치앳 코리아’ 행사를 개최하였습니다. 이 행사는 국내 AI 연구 생태계 발전에 기여하고자 하는 학계 및 AI 스타트업의 연구자와 개발자 간 네트워킹을 확대할 기회를 마련하기 위한 목적으로 기획되었습니다.

  • 2-2. 참여자 및 주요 연사 소개

  • 이번 행사에는 약 300여명의 AI 연구 개발자와 연구자들이 참석하였으며, 구글 리서치의 글로벌 임원진인 마야 쿨리키 부사장과 캐서틴 초우 프로덕트 총괄 등이 주요 연사로 참여하였습니다. 특히, 김기정 콕스웨이브 대표는 AI 모델의 취약성 평가 및 잠재 위협 예방 방법에 대한 내용을 발표하였습니다.

  • 2-3. 행사 일정 및 진행 방식

  • 리서치앳 코리아 행사는 연구자들의 연구 개발과정에서 방대한 자료의 효율적인 관리를 위한 AI 기반 노트정리 도구인 ‘노트북LM’, 의료 전문가의 진단 및 치료 결정을 지원하는 구글의 의료용 대규모 언어 모델 ‘메드-제미나이’, 텍스트, 이미지, 영상, 음성을 처리하는 ‘AI 에이전트’, 뇌의 구조와 기능 이해를 위한 연구 프로젝트 ‘커넥토믹스’ 등 구글의 선도적인 AI 기술이 소개되었습니다. 또한, 대규모 언어 모델 모니터링 및 분석 플랫폼을 제공하는 콕스웨이브의 발표와 질의 응답 시간, 데모 부스 및 네트워킹 자리도 마련되어 구글과 국내 AI 연구 진 간의 활발한 교류가 진행되었습니다.

3. AI 연구 동향 발표

  • 3-1. 구글의 최신 AI 기술 소개

  • 2024년 8월 27일 서울 포시즌스호텔에서 개최된 구글의 \'리서치앳 코리아\' 행사에서는 인공지능(AI) 분야의 최신 연구 동향이 공유되었습니다. 구글 리서치 임원진과 국내 AI 연구자, 스타트업 관계자 등 약 300명이 참석하여 다양한 연구와 기술을 발표하였습니다.

  • 3-2. 노트북LM(Notebook LM) 기능 및 활용 사례

  • 한편, 노트북LM(Notebook LM)은 개인 문서, 예를 들어 PDF 파일 등을 구글 슬라이드에 업로드하면 자동으로 요약본을 생성하고, 해당 문서와 관련된 질문과 답변을 할 수 있도록 설계된 개인화된 AI 서비스입니다. 이 도구는 200여 개국에서 출시되었으며, 25개 이상의 언어를 지원하고 있습니다.

  • 3-3. 메드-제미나이(Med-Gemini)와 의료 분야 적용

  • 메드-제미나이는 COVID-19 및 다양한 의료 데이터를 학습하여 방사선학 보고서를 생성하는 의료용 대규모 언어 모델입니다. 방사선 전문의 평가에 따르면 전문의의 72%가 메드-제미나이가 작성한 보고서의 품질이 실제 의사의 글과 동등하거나 우수하다고 응답했습니다. 이(AI) 기술은 텍스트, 이미지, 유전 정보 등 다양한 형태의 의료 데이터를 효과적으로 활용하여 의료 서비스 접근성을 높이는 데 기여하고 있습니다.

  • 3-4. 커넥토믹스(Connectomics) 프로젝트 소개

  • 커넥토믹스 프로젝트는 뇌의 구조와 기능을 이해하는데 집중하는 구글의 연구 프로젝트입니다. 이 프로젝트는 CT 및 MRI를 사용하여 뇌의 세포 연결을 분석하며, 인간의 뇌가 수백억 개의 뉴런으로 이루어져 있음에도 불구하고 소모하는 에너지가 적다는 점에서 AI 기술 발전의 기초가 될 수 있습니다. 구글은 이를 통해 생성형 AI 고도화와 관련된 전력 소모를 줄일 수 있는 효과도 기대하고 있습니다.

4. AI 안전성 향상 방안

  • 4-1. AI 모델의 취약성 평가 방법

  • 김기정 콕스웨이브 대표는 ‘AI 안정성 향상’이라는 주제로 발표를 진행하였습니다. 발표에서 그는 AI 시스템이 직면한 주요 위험 요소로 환각, 편견 및 차별, 정보 유출 등을 지적하였습니다. 또한, 최근 발생한 AI 모델의 취약성을 평가할 수 있는 방법에 대해 설명하였습니다. 특히, AI 모델에 대규모 탈옥 프롬프트를 선적용하여 다중 샷 공격 저항 점수(MARS)를 측정하고, 이를 통해 AI 모델의 취약성을 판단하는 기법을 공유하였습니다.

  • 4-2. 잠재 위협 예방 사례

  • 김기정 대표는 얼라인 AI 플랫폼 내 발생한 실사례를 바탕으로 AI 모델의 잠재 위협 예방 방법을 발표하였습니다. 얼라인 AI는 생성형 AI 기반 대화형 제품을 위한 분석 플랫폼으로, AI와 사용자 간의 대화 데이터를 분석하여 환각 현상이나 개인정보 유출 사례 없이 제대로 기능을 수행하는지를 판단하는 기능을 제공합니다. 이를 통해 AI 시스템에서 발생할 수 있는 위험을 사전에 탐지하고 방지하는 역할을 한다고 강조하였습니다.

  • 4-3. 환각, 편견 및 차별 문제

  • 발표에서 강조된 또 다른 주제는 AI 시스템에서 발생할 수 있는 환각, 편견, 차별 문제입니다. 김기정 대표는 현재 AI 시스템에서 가장 많이 나타나는 악용 방법들을 설명하고, 이러한 문제들을 해결하기 위한 연구 방향에 대한 필요성을 언급하였습니다. AI의 대화형 특성으로 인해 이러한 문제가 발생할 가능성이 높아짐에 따라, 이에 대한 심층적인 평가와 토론이 필요하다고 진단하였습니다.

  • 4-4. AI 안전망 역할 및 중요성

  • 김기정 대표는 AI의 안전망 역할에 대해서도 언급하였습니다. 그는 AI 안전망이란 AI를 활용하면서 발생할 수 있는 위험을 사전에 탐지하고 방지하는 체계로, 얼라인 AI가 이를 제공할 수 있는 플랫폼임을 강조하였습니다. 이는 기업들이 보다 안전하고 신뢰할 수 있는 AI 서비스를 제공하도록 지원하며, 지속적인 기술 개발 및 고도화를 통해 AI 생태계의 안전성을 높이는데 기여하고자 한다고 밝혔습니다.

5. 글로벌 AI 생태계와 한국의 역할

  • 5-1. 한국 AI 스타트업의 성장 가능성

  • 구글이 주최한 '리서치앳 코리아' 행사에서는 한국이 AI 분야에서 중요한 역할을 하고 있는 점이 강조되었습니다. 한국은 구글이 2년 연속 '리서치앳' 행사를 개최한 유일한 국가로, 이는 한국 AI 스타트업의 성장 가능성이 높다는 것을 시사합니다. 행사에서는 콕스웨이브의 김기정 대표가 국내 AI 연구 사례를 공유하며, 'AI 퍼스트 엑셀러레이터'에서 받은 트레이닝과 멘토링 경험을 나누었습니다.

  • 5-2. 구글의 AI 스타트업 지원 프로그램

  • 구글은 국내 AI 스타트업을 지원하기 위해 다양한 프로그램을 운영하고 있습니다. 특히 'AI 퍼스트 엑셀러레이터' 프로그램을 통해 한국의 AI 스타트업들에게 전문적인 트레이닝과 멘토링을 제공하고 있습니다. 이러한 프로그램은 스타트업이 보다 효율적으로 기술을 개발하고 시장에 진입할 수 있도록 돕는 중요한 역할을 하고 있습니다.

  • 5-3. AI 연구자와의 협력 방안

  • 행사에서는 구글 리서치의 글로벌 임원진과 국내 AI 연구자들 간의 네트워킹 기회가 제공되었습니다. 구글은 '온디바이스 러닝(On-Device Learning)'과 같은 연구 사례를 발표하며, 한국의 AI 전문가들과 협력할 기회를 모색하고 있습니다. 이를 통해 구글은 한국의 AI 연구 생태계 발전에 기여하고, AI 기술을 혁신하는 데 필요한 협력 관계를 지속적으로 강화할 계획입니다.

결론

  • 이번 '리서치앳 코리아' 행사는 AI 연구자들과 스타트업 간의 협력과 정보 교류를 촉진하며, AI 안전성에 대한 중요성을 새롭게 인식하는 기회였다. 김기정 콕스웨이브 대표는 AI 안전성 향상을 위한 접근법을 통해 AI 모델의 취약성 및 잠재적 위협을 평가하는 방법론을 제시했다. 구글은 AI 기술 혁신과 안전성을 강조하며, 한국 AI 스타트업과의 협력을 통해 보다 안전하고 진보된 AI 생태계를 구축해 나가고자 한다. 이 행사는 AI 안전성 문제를 고려한 기술 개발의 중요성을 더욱 부각시키며, 한국이 글로벌 AI 생태계에서 중요한 역할을 담당할 것임을 보여준다. 앞으로 이러한 방안들이 실제 AI 적용과 연구에 어떻게 기여할지 주목된다.

용어집

  • 콕스웨이브 [회사]: 2021년 설립된 스타트업으로, 생성형 AI 기술을 활용한 다양한 AI 제품을 개발하고 있으며, AI 안정성 향상을 위한 연구와 개발에 주력하고 있다. 최근에는 AI 제품 분석 플랫폼 '얼라인 AI'를 통해 AI 모델의 취약성 평가 및 위험 예방 방안을 제시하고 있다.
  • 구글 [회사]: 세계적인 기술 기업으로, 인공지능(AI) 및 머신러닝 분야에서 선도적인 연구와 개발을 진행하고 있으며, '리서치앳 코리아'와 같은 행사로 AI 연구 생태계의 발전을 도모하고 있다.
  • 노트북LM [제품]: '노트북LM'은 구글의 AI 기반 노트 정리 도구로, 사용자가 업로드한 자료를 자동으로 분석하고 요약하는 기능을 제공하여 연구자들의 업무 효율성을 높이는 데 기여하고 있다.
  • 메드-제미나이 [제품]: 구글의 의료용 대규모 언어 모델(LLM)로, 다양한 의료 데이터를 분석하여 방사선학 보고서를 생성할 수 있는 기능을 갖추고 있으며, 최근 블라인드 테스트에서 전문의들로부터 높은 평가를 받았다.
  • 커넥토믹스 [프로젝트]: 구글의 뇌 구조 분석 프로젝트로, 인간의 뇌를 정밀 분석하여 뇌 작동 방식을 이해하는 데 기여하고자 한다.

출처 문서