AIM Intelligence, ‘AI RISK Conference Seoul 2026’ 개최…에이전트 시대 보안 전략 논의

벤처스퀘어2026년 9월 7일

한눈에 보기

AIM Intelligence는 2026년 9월 7일 서울에서 ‘AI RISK Conference Seoul 2026’을 열고 AI 에이전트 시대의 보안 리스크와 대응 전략을 논의했다.
행사에는 유상윤 AIM Intelligence 대표와 박하연 CTO를 비롯해 서울대 이병영 교수, 숭실대 최대선 센터장, 금융보안원 김성웅 소장, Microsoft 장광윤, OpenAI Wana Tun 등이 참여했으며 삼성화재가 후원했다.
1부에서는 프롬프트 인젝션과 AI 권한 통제 등 AI가 답변 도구에서 직접 행동하는 에이전트로 진화하면서 새롭게 등장한 위험을 다뤘다.
Microsoft 장광윤은 공격 코드가 취약점 공식 공개보다 먼저 등장하는 중앙값 기준 시간이 약 15시간이라고 밝히며 기존 대응 방식으로는 속도를 따라가기 어렵다고 지적했다.
2부에서는 Microsoft의 ‘Agentic Security’와 OpenAI의 사람의 최종 승인 절차인 ‘Human Gate’를 핵심으로 하는 ‘Daybreak’ 등 AI 기반 자율 방어 체계가 소개됐다.
유상윤 대표는 “AI 리스크 관리는 AI 도입을 막기 위해서 있는 게 아니라 AI를 더 적극적으로, 더 안전하게 활용할 수 있도록 하는 기반입니다”라고 말했고, 박하연 CTO는 “AI의 실패가 더 이상 텍스트로 끝나지 않는다”며 AI가 강해질수록 누가 통제하는가가 새로운 보안 기준이 된다고 강조했다.

외국어 요약

AIM Intelligence hosted the 'AI RISK Conference Seoul 2026' on September 7, bringing together experts from Seoul National University, Soongsil University, the Financial Security Institute, Microsoft, and OpenAI to discuss how AI security risks are changing as AI evolves from chatbots into agents that take direct action. Speakers highlighted new attack methods like prompt injection, the need for permission and execution controls, and introduced AI-driven autonomous defense concepts such as Microsoft's 'Agentic Security' and OpenAI's 'Daybreak,' which keeps a 'Human Gate' for critical decisions. The consensus was that as AI's capabilities expand, deciding what AI should be allowed to do—and where humans must retain final control—has become the new standard for security.

Read full article

AIM Intelligence于9月7日举办了“AI RISK Conference Seoul 2026”,首尔大学、崇实大学、金融安全院、Microsoft和OpenAI等专家齐聚一堂,探讨AI从聊天机器人演变为可直接执行操作的智能体后,安全风险发生的变化。演讲者重点介绍了提示注入等新型攻击方式、权限与执行控制的必要性,并介绍了Microsoft的“Agentic Security”和OpenAI的“Daybreak”等由AI驱动的自主防御理念,其中设有“Human Gate”以保留人工对关键决策的把控。与会者一致认为,随着AI能力的扩大,决定AI可以做什么、人类必须在何处保留最终控制权,已成为新的安全标准。

查看原文

AIM Intelligenceは9月7日、「AI RISK Conference Seoul 2026」を開催し、ソウル大学校、崇実大学校、金融保安院、Microsoft、OpenAIなどの専門家が集まり、AIがチャットボットから直接行動するエージェントへと進化する中でセキュリティリスクがどう変化しているかを議論した。登壇者はプロンプトインジェクションなどの新たな攻撃手法や権限・実行制御の必要性を強調し、Microsoftの「Agentic Security」やOpenAIの「Daybreak」といったAI主導の自律防御の概念を紹介した。Daybreakには重要な意思決定において人が最終確認を行う「Human Gate」が組み込まれている。AIの能力が拡大するにつれ、AIに何を許可するか、人間がどこで最終的な統制権を持つべきかを設計することが、新たなセキュリティの基準になっているという点で意見が一致した。

原文を読む

AIM Intelligence a organisé la « AI RISK Conference Seoul 2026 » le 7 septembre, réunissant des experts de l'Université nationale de Séoul, de l'Université Soongsil, du Financial Security Institute, de Microsoft et d'OpenAI pour discuter de l'évolution des risques de sécurité à mesure que l'IA passe de simples chatbots à des agents capables d'agir directement. Les intervenants ont souligné de nouvelles méthodes d'attaque telles que l'injection de prompt, la nécessité de contrôler les permissions et les exécutions, et ont présenté des concepts de défense autonome pilotés par l'IA comme « Agentic Security » de Microsoft et « Daybreak » d'OpenAI, qui conserve un « Human Gate » pour les décisions critiques. Le consensus était que, à mesure que les capacités de l'IA s'étendent, déterminer ce que l'IA est autorisée à faire — et où les humains doivent conserver le contrôle final — est devenu la nouvelle norme de sécurité.

Lire l'article