크라우드웍스, 'AI 에이전트 안전·신뢰성 검증' 사업 수주…한국형 데이터셋 구축 주도

CrowdWorks has won a government-commissioned project to build a Korean-style dataset for verifying the safety and reliability of AI agents, led by SureSoftTech with KAIST and the Korea AI Industry Association. The project addresses the limitation that existing AI evaluation focuses only on final answer accuracy, aiming instead to verify agents' planning and tool-calling processes as they perform tasks like reservations and payments. CrowdWorks will build over 7,000 data entries by year-end, reflecting Korea-specific service contexts and dynamic data conditions.

CrowdWorks中标由SureSoftTech牵头、KAIST和韩国人工智能产业协会参与的政府项目,负责构建用于验证AI代理安全性和可靠性的韩国式数据集。该项目旨在弥补现有AI评估体系仅关注最终答案准确性、难以验证代理规划和工具调用过程的局限,尤其是在预订、支付等实际操作场景中。CrowdWorks将于年底前构建7000多条数据,反映韩国本地服务环境和动态数据条件。

CrowdWorksは、SureSoftTechが主管しKAISTと韓国人工知能産業協会が参加する政府発注事業を受注し、AIエージェントの安全性と信頼性を検証する韓国型データセットの構築を主導する。この事業は、既存のAI評価体系が最終回答の正確性にのみ焦点を当て、エージェントの計画立案やツール呼び出し過程の検証が難しかった限界を補うことを目的とする。CrowdWorksは年内に7000件以上のデータを構築し、韓国特有のサービス環境や動的データの状況を反映させる。

CrowdWorks a remporté un projet gouvernemental dirigé par SureSoftTech, avec la participation de KAIST et de l'Association coréenne de l'industrie de l'IA, pour construire un ensemble de données coréen destiné à vérifier la sécurité et la fiabilité des agents IA. Ce projet vise à combler les lacunes des systèmes d'évaluation existants, qui se concentrent uniquement sur l'exactitude des réponses finales sans vérifier les processus de planification et d'appel d'outils des agents, notamment pour des tâches comme les réservations et paiements. CrowdWorks construira plus de 7 000 données d'ici la fin de l'année, reflétant les environnements de service et les conditions de données dynamiques propres à la Corée.