에임인텔리전스, ‘AI RISK Conference Seoul 2026’ 개최…에이전트 시대 보안 논의

벤처스퀘어2026년 9월 7일

한눈에 보기

에임인텔리전스는 서울에서 삼성화재 후원으로 ‘AI RISK Conference Seoul 2026’을 열고 AI 에이전트 보안 위협과 대응 방안을 논의했다.
행사는 AI가 챗봇에서 직접 행동하는 에이전트로 진화하면서 기존 보안 체계로 다루기 어려운 새로운 리스크가 발생했다는 문제의식에서 마련됐다.
1부 패널토크에서는 이병영 서울대 교수, 김성웅 금융보안원 금융AI보안연구소장, 최대선 숭실대 AI안전성연구센터장 등이 프롬프트 인젝션, 금융권 리스크, 에이전트 권한 통제를 논의했다.
2부에서는 장광윤 Microsoft Korea Chief Security Advisor와 Wana Tun OpenAI Applied AI Security Specialist가 자율 방어(Agentic Security)와 OpenAI의 방어 체계 Daybreak, 사람 승인 절차인 Human Gate를 소개했다.
장광윤은 공격 코드가 소프트웨어 취약점 공식 공개보다 중앙값 기준 약 15시간 앞서 등장한다는 분석 결과를 소개했다.
유상윤 에임인텔리전스 대표는 “AI 리스크 관리는 AI 도입을 막기 위해서 있는 게 아니라 AI를 더 적극적으로, 더 안전하게 활용할 수 있도록 하는 기반입니다”라고 말했고, 박하연 CTO는 “AI의 실패가 더 이상 텍스트로 끝나지 않는다”고 강조했다.

외국어 요약

AIM Intelligence hosted the 'AI RISK Conference Seoul 2026' in Seoul, sponsored by Samsung Fire & Marine Insurance, bringing together experts from Seoul National University, Soongsil University, Financial Security Institute, Microsoft, and OpenAI. The conference focused on how AI's evolution from chatbots to autonomous agents has changed security risks, covering topics like prompt injection attacks, financial sector AI risks, permission controls, physical AI safety, and autonomous defense concepts like Microsoft's 'Agentic Security' and OpenAI's 'Daybreak' framework. Speakers emphasized that as AI gains more autonomy, companies need to design clear boundaries on what AI can do, where human approval is required, and who bears final responsibility.

Learn more

AIM Intelligence在首尔举办了「AI RISK Conference Seoul 2026」会议，由三星火灾海上保险赞助，首尔大学、崇实大学、金融保安院、Microsoft和OpenAI等专家出席。会议聚焦于AI从聊天机器人演变为自主执行任务的智能体后，安全风险性质发生的变化，探讨了提示词注入攻击、金融业AI风险、权限控制、物理AI安全，以及Microsoft的「Agentic Security」和OpenAI的「Daybreak」等自主防御理念。与会专家强调，随着AI自主性增强，企业需要明确设计AI可以做什么、何时需要人工审批，以及谁承担最终责任。

了解更多

AIM Intelligenceがソウルで「AI RISK Conference Seoul 2026」を開催し、三星火災海上保険が後援、ソウル大学、崇実大学、金融保安院、Microsoft、OpenAIなどの専門家が参加した。会議では、AIがチャットボットから自律的に行動するエージェントへと進化する中でセキュリティリスクの性質がどう変化しているかに焦点を当て、プロンプトインジェクション攻撃、金融業界のAIリスク、権限管理、フィジカルAIの安全性、MicrosoftのAgentic SecurityやOpenAIのDaybreakのような自律防御の概念について議論した。登壇者らは、AIの自律性が高まるほど、企業はAIに何を許可し、どこで人間の承認が必要か、最終責任を誰が負うかを明確に設計する必要があると強調した。

詳しく見る

AIM Intelligence a organisé la conférence « AI RISK Conference Seoul 2026 » à Séoul, parrainée par Samsung Fire & Marine Insurance, réunissant des experts de l'Université nationale de Séoul, de l'Université Soongsil, du Financial Security Institute, de Microsoft et d'OpenAI. La conférence s'est concentrée sur la manière dont l'évolution de l'IA, passant de chatbots à des agents autonomes, a modifié la nature des risques de sécurité, abordant les attaques par injection de prompts, les risques liés à l'IA dans le secteur financier, le contrôle des permissions, la sécurité de l'IA physique, ainsi que des concepts de défense autonome comme « Agentic Security » de Microsoft et le cadre « Daybreak » d'OpenAI. Les intervenants ont souligné que plus l'autonomie de l'IA augmente, plus les entreprises doivent définir clairement ce que l'IA peut faire, où l'approbation humaine est nécessaire, et qui assume la responsabilité finale.