래블업, kt cloud summit 2026서 AI 팩토리 운영 전략 공개

Rabbrup, an AI infrastructure software company, presented its inference and routing optimization strategy along with token monitoring at 'kt cloud summit 2026' held in Seoul. CTO Kim Jun-gi explained that as AI infrastructure priorities shift from large-scale model training to inference and actual service operation, efficiently handling requests from multiple models and users has become a new challenge. Rabbrup also plans to expand its ongoing GPUaaS collaboration with KT into AI service operation and infrastructure efficiency areas.

AI基础设施软件公司Rabbrup在首尔举行的'kt cloud summit 2026'上发布了推理与路由优化及令牌监控策略。首席技术官Kim Jun-gi表示，随着AI基础设施的重心从大规模模型训练转向推理和实际服务运营，如何高效处理来自多个模型和用户的请求已成为新的课题。Rabbrup还计划将与KT持续开展的GPUaaS合作扩展到AI服务运营和基础设施效率化领域。

AIインフラソフトウェア企業のRabbrupは、ソウルで開催された「kt cloud summit 2026」で推論・ルーティング最適化とトークンモニタリング戦略を発表した。最高技術責任者のKim Jun-giは、AIインフラの重心が大規模学習から推論と実際のサービス運営へと移行する中で、複数のモデルとユーザーからのリクエストを効率的に処理することが新たな課題として浮上していると説明した。RabbrupはKTと進めてきたGPUaaS協力をAIサービス運営とインフラ効率化の分野に拡大する計画だ。

L'entreprise de logiciels d'infrastructure IA Rabbrup a présenté sa stratégie d'optimisation d'inférence et de routage ainsi que de surveillance des jetons lors du 'kt cloud summit 2026' à Séoul. Le directeur technique Kim Jun-gi a expliqué que, alors que le centre de gravité de l'infrastructure IA se déplace de l'entraînement de grands modèles vers l'inférence et l'exploitation réelle des services, le traitement efficace des requêtes de multiples modèles et utilisateurs devient un nouveau défi. Rabbrup prévoit également d'étendre sa collaboration GPUaaS avec KT aux domaines de l'exploitation des services IA et de l'efficacité des infrastructures.