콘텐츠소개

💬 퍼스널 에이전트 시대에는 성능보다 보안이 진짜 병목이 될 것이라고 봤습니다.

오픈AI가 안전 통제 솔루션을 출시하기 전, 아시아에서 유일하게 검증을 맡긴 국내 스타트업이 있습니다.

모두가 AI 성능을 겨룰 때 보안을 택하고, 서울대 대학원 석박사 통합 과정을 중단하며 2024년 창업에 나선 선택이었습니다.

이번 영상은 에임인텔리전스 유상윤 대표의 AI 네이티브 보안 전략과 창업 배경을 담았습니다.

🔍 이번 영상에서 다루는 핵심 포인트

1. 2022년 말, 성능이 아니라 병목을 본 순간

: 챗GPT 3.5가 등장했을 때 많은 연구자가 성능 향상에 집중했지만, 보안이 AI 확산의 병목이 될 수 있다고 판단해 학업을 멈추고 창업을 택했습니다.

2. 오픈AI 협업의 실체 — 프롬프트 인젝션

: 우회 명령으로 AI 안전장치를 무력화하는 취약점을 찾아 전달했고, 오픈AI는 이를 보완한 뒤 솔루션을 정식 출시했습니다. 국내 기술이 글로벌 AI 안전 기준을 검증할 수 있다는 사실을 보여준 사례입니다.

3. 창과 방패, 스팅어와 스타포트

: 스팅어는 가상 적군처럼 AI 에이전트를 공격해 취약점을 미리 찾는 창이고, 스타포트는 유해한 답변과 외부 공격을 실시간으로 막는 방패입니다. 현재 이동통신 3사와 금융회사들에 공급하고 있으며, 엔비디아 글로벌 AI 스타트업 경진대회에서 톱10에 올랐습니다.

4. 사람 기준의 보안과 갈리는 지점

: 기존 보안은 주로 사람의 행동을 기준으로 규칙을 세우지만, AI 에이전트는 정상 지시와 외부의 악의적 명령을 완벽히 구분하지 못합니다. 그래서 텍스트뿐 아니라 음성과 이미지, 영상에 숨은 지시를 찾고 자율 에이전트의 이상 행동과 권한 오용을 미리 통제합니다.

🎯 이 영상은 이렇게 도움이 됩니다:

1. AI 에이전트를 도입하는 대기업·금융권 실무자: 공격 전 점검과 운영 중 방어를 함께 두는 구조를 참고할 수 있습니다.

2. 보안 담당자·CISO: 사람의 행동을 기준으로 한 규칙이 멀티모달·자율 에이전트 환경에서 어디부터 어긋나는지 확인할 수 있습니다.

3. 딥테크 창업자·투자자: 자본과 인프라의 열세를 결정 속도와 인재의 결속력으로 메우는 전략을 살펴볼 수 있습니다.

AI 비서가 카드번호와 비밀번호까지 다루게 될 때 무엇이 먼저 필요한지, 사용자가 위협을 느끼지 못할 만큼 자연스러운 보안을 향한 도전을 지금 확인해 보세요.

리뷰 개

추천콘텐츠