One Identity, a trusted leader in identity security, today announces a major upgrade to One Identity Manager, a top-rated IGA solution, strengthening identity governance as a critical security control for modern enterprise environments. 

One Identity Manager 10.0 introduces security-driven capabilities for risk-based governance, identity threat detection and response (ITDR), and AI-assisted insight, helping organizations better anticipate, contain, and manage identity-driven attacks across their complex IT ecosystems. 

For more than a decade, Identity Manager has served as a proven foundation for securing and governing identities at scale across some of the world’s largest and most complex environments. Version 10.0 builds on that foundation with a modernized experience, deeper integrations, and embedded intelligence that gives security teams clear visibility, stronger control, and more efficient execution across governance workflows.  

New capabilities include enhanced risk management integrations that allow organizations to ingest and act on user risk scores from third-party analytics and UEBA tools. Newly introduced ITDR playbooks automate key remediation actions such as disabling accounts, flagging security incidents, and launching targeted attestation. Together, these capabilities help organizations shorten the window between detection and action when identity threats emerge. 

The release also introduces a modern, browser-based interface that delivers full administrative functionality without desktop installation. AI-assisted reporting, powered by a secure, customer-controlled large language model, enables authorized users to query identity data in natural language, reducing reliance on complex SQL and accelerating insights for audits, reviews, and compliance.  

Enhanced SIEM compatibility through standards-based Syslog CEF formatting improves interoperability with modern security monitoring platforms. This helps security teams connect identity governance more seamlessly into broader security operations. 

“One Identity Manager 10.0 is a major upgrade that strengthens identity governance as a critical security component for protecting enterprise environments,” said Praerit Garg, CEO of One Identity. “Organizations today face relentless identity-driven threats. This release combines a proven governance foundation with intelligence, automation, and usability that help security teams detect risk earlier, take decisive action, and operate at scale with confidence.”

“One Identity Manager 10.0 represents a significant change in identity governance for large-scale use,” said Ciro Guariglia, CTO of Intragen by Nomios. “The platform improves the data model and automation engine, while bringing in a more scalable, policy-driven method for attestations. This change makes large certification campaigns easier to manage, instead of burdening administrators and the system.”  

With Identity Manager 10.0, One Identity continues advancing identity security as a central pillar of enterprise defense, helping organizations strengthen protection, reduce exposure, and support secure business operations in complex environments. 

About One Identity 

One Identity delivers trusted identity security for enterprises worldwide to protect and simplify access to digital identities. With flexible deployment options and subscription terms – from self-managed to fully managed – our solutions integrate seamlessly into your identity fabric to strengthen your identity perimeter, protect against breaches and ensure governance and compliance. Trusted by more than 11,000 organizations managing over 500 million identities, One Identity is a leader in identity governance and administration (IGA), privileged access management (PAM), and access management (AM) for security without compromise.

Users can learn more at www.oneidentity.com. 

Contact

Liberty Pike

One Identity LLC

liberty.pike@oneidentity.com

Despite unprecedented investment in artificial intelligence, most enterprises have hit an integration wall. The technology works in isolation. The proofs of concept impress.

But when it comes time to deploy AI into production that touches real customers, impacts revenue and introduces legitimate risk, organizations balk–for valid reasons: AI systems are fundamentally non-deterministic.

Unlike traditional software that behaves predictably, large language models can produce unexpected results. They risk providing confidently wrong answers, hallucinated facts and off-brand responses. For risk-conscious enterprises, this uncertainty creates a barrier that no amount of technical sophistication can overcome.

This pattern is common across industries. In my years helping enterprises deploy AI technology, I’ve watched many organizations build impressive AI demos that never made it past the integration wall.  The technology was ready. The business case was sound. But the organizational risk tolerance wasn’t there, and nobody knew how to bridge the gap between what AI could do in a sandbox and what the enterprise was willing to deploy in production. At that point, I came to believe that the bottleneck wasn’t the technology. It was the talent deploying it.

A few months ago, I joined Andela, which provides technical talent to enterprises for short or long-term assignments. From this vantage point, it remains clearer than ever that the capability that enterprises need has a name: the forward-deployed engineer (FDE). Palantir originally coined the term to describe customer-centric technologists essential to deploying their platform inside government agencies and enterprises. More recently, frontier labs, hyperscalers and startups have adopted the model. OpenAI, for example, will assign senior FDEs to high-value customers as investments to unlock platform adoption.

But here’s what CIOs need to understand: this capability has been concentrated with AI platform companies to drive their own growth. For enterprises to break through the integration wall, they need to develop FDEs internally.

What makes a forward-deployed engineer

The defining characteristic of an FDE is the ability to bridge technical solutions with business outcomes in ways traditional engineers simply don’t. FDEs are not just builders. They’re translators operating at the intersection of engineering, architecture and business strategy.

They are what I think of as “expedition leaders” guiding organizations through the uncharted terrain of generative AI. Critically, they understand that deploying AI into production is more than a technical challenge. It’s also a risk management challenge that requires earning organizational trust through proper guardrails, monitoring and containment strategies.

In 15 years at Google Cloud and now at Andela, I’ve met only a handful of individuals who embody this archetype. What sets them apart isn’t a single skill but a combination of four working in concert.

• The first is problem-solving and judgment. AI output is often 80% to 90% correct, which makes the remaining 10% to 20% dangerously deceptive (or maddeningly overcomplicated). Effective FDEs possess the contextual understanding to catch what the model gets wrong. They spot AI workslop or the recommendation that ignores a critical business constraint. More importantly, they know how to design systems that contain this risk: output validation, human-in-the-loop checkpoints and deterministic fallback responses when the model is uncertain. This is what makes the difference between a demo that impresses and a production system that executives will sign off on.

• The second competency is solutions engineering and design. FDEs must translate business requirements into technical architectures while navigating real trade-offs: cost, performance, latency and scalability. They know when a small language model (with lower inference cost) will outperform a frontier model for a specific use case, and they can justify that decision in terms of economics rather than technical elegance. Critically, they prioritize simplicity. The fastest path through the integration wall almost always begins with the minimum viable product (MVP) that solves 80% of the problem with appropriate guardrails. The solution will not be the elegant system that addresses every edge case but introduces uncontainable risk.

• Third is client and stakeholder management. The FDE serves as the primary technical interface with business stakeholders, which means explaining technical mechanics to executives who often lack significant experience with AI. Instead, these leaders care about risk, timeline and business impact. This is where FDEs earn the organizational trust that allows AI to move into production. They translate non-deterministic behavior into risk frameworks that executives understand: what’s the blast radius if something goes wrong, what monitoring is in place and what’s the rollback plan? This makes AI’s uncertainty legible and manageable to risk-conscious decision makers.

• The fourth competency is strategic alignment. FDEs connect AI implementations to measurable business outcomes. They advise on which opportunities will move the needle versus which are technically interesting but carry disproportionate risk relative to value. They think about operational costs and long-term maintainability, as well as initial deployment. This commercial orientation—paired with an honest assessment of risk—is what separates an FDE from even the most talented software engineer.

The individuals who possess all of these competencies share a common profile. They typically started their careers as developers or in another deeply technical function. They likely studied computer science. Over time, they developed expertise in a specific industry and cultivated unusual adaptability and the willingness to stay curious as the landscape shifts beneath them. Because of this rare combination, they’re concentrated at the largest technology companies and command high compensation.

The CIO’s dilemma

If FDEs are as scarce as I’m suggesting, what options do CIOs have?

Waiting for the talent market to produce more of them will take time. Every month that AI initiatives stall at the integration wall, the gap widens between organizations capturing real value and those still showcasing demos to their boards. The non-deterministic nature of AI isn’t going away. If anything, as models become more capable, their potential for unexpected behavior increases. The enterprises that thrive will be those that develop the internal capability to deploy AI responsibly and confidently, not those waiting for the technology to become risk-free.

The alternative is to grow FDEs from within. This is harder than hiring, but it’s the only path that scales. The good news: FDE capability can be developed. It requires the right raw material and an intensive, structured approach. At Andela, we’ve built a curriculum that takes experienced engineers and trains them to operate as FDEs. Here’s what we’ve learned about what works.

Building your FDE bench

Start by identifying the right candidates. Not every strong engineer will make the transition.  Look for experienced software engineers who demonstrate curiosity beyond their technical domain. You want people with foundational strength in core development practices and exposure to data science and cloud architecture. Prior industry expertise is a significant accelerant. Someone who understands healthcare compliance or financial services risk frameworks will ramp faster than someone learning the domain from scratch.

The technical development path has three layers. The foundation is AI and ML literacy: LLM concepts, prompting techniques, Python proficiency, understanding of tokens and basic agent architectures. These are table stakes.

The middle layer is the applied toolkit. Engineers need working competency in three areas that map to the “three hats” an FDE wears.

• First is RAG, or retrieval-augmented generation, knowing how to connect models to enterprise data sources reliably and accurately.
• Second is agentic AI, orchestrating multi-step reasoning and action sequences with appropriate checkpoints and controls.
• Third is production operations, ensuring solutions can be deployed with proper monitoring, guardrails and incident response capabilities.

These skills are developed through building and shipping actual systems that have to survive contact with real-world risk requirements.

The advanced layer is deep expertise: model internals, fine-tuning, the kind of knowledge that allows an FDE to troubleshoot when standard approaches fail. This is what separates someone who can follow a playbook from someone who can improvise when the playbook doesn’t cover the situation. It is also someone who can explain to a skeptical CISO why a particular approach is safe to deploy.

Professional capabilities are equally as important as technical training and can be harder to develop. FDEs must learn to reframe conversations, to stop talking about technical agents and start discussing business problems and risk mitigation. They must manage high-stakes stakeholder relationships, including difficult conversations around scope changes, timeline slips and the inherent uncertainties of non-deterministic systems. Most importantly, they must develop judgment: the ability to make good decisions under ambiguity and to inspire confidence in executives who are being asked to accept a new kind of technology risk.

Set realistic expectations with your leadership and your candidates. Even with a strong program, not everyone will complete the transition. But even a small cohort of FDE-capable talent can dramatically accelerate your path to overcoming the integration wall. One effective FDE embedded with a business unit can accomplish more than a dozen traditional engineers working in isolation from the business context. That’s because the FDE understands that the barrier was never primarily technical.

The stakes

The enterprises that develop FDE capability will break through the integration wall. They’ll move from impressive demos to production systems that generate real value. Each successful deployment will build organizational confidence for the next. Those that don’t will remain stuck, unable to convert AI investment into AI returns, watching more risk-tolerant competitors pull ahead.

My bet when I joined Andela was that AI would not outpace human brilliance. I still believe that. But humans have to evolve. The FDE represents that evolution: technically deep, commercially minded, fluent in risk and adaptive enough to lead through continuous change. This is the archetype for the AI era. CIOs who invest in building this capability now won’t just keep pace with AI advancement; they’ll be the ones who finally capture the enterprise value that has remained stubbornly hard to reach.

This article is published as part of the Foundry Expert Contributor Network.
Want to join?

IBM has launched a new consulting service named Enterprise Advantage, designed to help CIOs take their agentic and other AI applications from experimentation to large-scale production.

Enterprise Advantage is based on Consulting Advantage, IBM’s internal AI-powered delivery platform, which in turn combines the company’s consulting expertise and workflows used to transform its internal operations.

Consulting Advantage also includes a marketplace that houses industry‑specific AI agents and applications, which has been rolled into Enterprise Advantage.

Analysts say Enterprise Advantage could help enterprises more effectively build and scale agentic and other AI applications across complex, multi-cloud environments because the service is designed to operate independently of specific cloud providers, AI models, or underlying infrastructure.

This approach aligns with the fragmented and heterogeneous IT landscapes most large enterprises already run, as they need to be able to scale AI applications within the constraints of their current IT estates without having to rip and replace any layer or infrastructure, Sanchit Vir Gogia, chief analyst at Greyhound Research.

Echoing Gogia’s views, Pareekh Jain, principal analyst at Pareekh Consulting, pointed out that large enterprises already have sunk costs in multiple clouds and multiple model choices.

In fact, Jain sees the new service helping enterprises reduce hyperscaler lock-in and offering more flexibility of choice when it comes to choosing a specific cloud vendor or their AI stack for building an agentic or AI application.

Caution for CIOs              

The flexibility offered by Enterprise Advantage could have its own set of tradeoffs for CIOs.

While Enterprise Advantage’s cloud‑agnostic pitch does help enterprises avoid getting locked into hyperscaler‑specific agent platforms like AWS Bedrock Agents or Microsoft Copilot Studio, the dependency might shift to the orchestration layer, Jain pointed out.

“If companies build their agent workflows, governance rules, and orchestration logic entirely on IBM’s Enterprise Advantage framework, migrating to another provider later could become just as difficult,” Jain added.

Rather, CIOs should internally evaluate whether their enterprise has the talent and expertise to operate the frameworks and workflows that Enterprise Advantage provides because that’s the only way that they can avoid lock-in at the orchestration and service level, Gogia said.

“If clients simply deploy Enterprise Advantage without building internal muscle, they’ll end up reliant on IBM’s platform for updates, extensions, and compliance maintenance. This could replicate the same old outsourcing trap we’ve seen before,” Gogia added.

In fact, Jain pointed out that enterprises with at least some level of AI maturity should look at adopting the new service.

While firms with very limited AI talent may find a framework-led approach too complex and instead prefer fully managed SaaS solutions, highly tech-native companies tend to build their own orchestration layers to avoid service dependency and retain control, the analyst said.

“The real sweet spot is the enterprise middle, large organizations with capable IT teams but heavy backlogs, where developers can build agents but are slowed by security, governance, and infrastructure hurdles that IBM’s service can help remove,” Jain added. The service has been made generally available.

Large language models (LLMs) have rapidly become a cornerstone of modern enterprise operations, powering everything from customer support chatbots to advanced analytics platforms. While these models offer unparalleled capabilities, they also pose significant challenges for organizations—mainly their size, resource demands and sometimes unpredictable behaviour. Enterprises often grapple with high operational costs, latency issues and the risk of generating inaccurate or irrelevant outputs (commonly referred to as hallucinations). To truly harness the potential of LLMs, businesses need practical strategies to optimise these models for efficiency, reliability and accuracy. One key technique that has gained traction is model distillation.

Understanding model distillation

Model distillation is a method used to transfer the knowledge and capabilities of a large, complex model (the teacher) into a smaller, more efficient model (the student). The goal is to retain the teacher’s performance while making the student model lighter, faster and less resource-intensive. Distillation works by training the student to mimic the outputs or internal representations of the teacher, essentially “distilling” the essence of the larger model into a compact form.

Why is this important for enterprises? Running massive LLMs can be costly and slow, especially in environments where quick responses and scalability are crucial. Model distillation provides a means to deploy powerful AI solutions without the heavy infrastructure burden, making it a practical choice for businesses seeking to strike a balance between performance and efficiency.

How model distillation works

• Train the trainer/teacher model: Begin with a large, pre-trained language model that performs well on your target tasks.
• Prepare the student model: Design a smaller, more efficient model architecture that will learn from the teacher.

• Distillation training: The student is trained using the teacher’s outputs or “soft labels,” learning to replicate its behaviour as closely as possible.
• Evaluation and fine-tuning: Assess the student’s performance and, if necessary, fine-tune it to ensure it meets accuracy and reliability requirements.

Throughout this process, the student model becomes adept at handling enterprise tasks with far less computational overhead, making it ideal for real-time applications.

Model distillation in practice

Imagine a financial services company that uses an LLM to generate investment reports. The original model is highly accurate but slow and expensive to run. By applying model distillation, the company trains a smaller student model that produces nearly identical reports with a fraction of the resources. This distilled model can now deliver insights in real-time, enabling analysts to make faster decisions while cutting operational costs.

In another scenario, a healthcare provider deploys an LLM-based assistant to help doctors access patient information and medical guidelines. The full-scale model offers excellent recommendations but struggles with latency on edge devices. After distillation, the student model fits comfortably on hospital servers, providing instant responses and maintaining data privacy.

Industrial use cases: Real-time scenarios across sectors

• Financial services: Distilled models power fraud detection systems, delivering rapid alerts without draining computational resources.
• Healthcare: Hospitals use distilled LLMs for triaging patient queries and supporting clinical decisions at the point of care.
• Customer service: Call centres deploy compact chatbots trained via distillation to handle large volumes of queries efficiently.
• Retail: E-commerce platforms run product recommendation engines using distilled models to personalise shopping experiences in real time.

Framework for model distillation: Optimizing LLMs for enterprises

To systematically optimise LLMs for enterprise use, a robust framework for model distillation is essential. Here’s a stepwise approach designed for IT professionals:

• Assessment: Identify the target tasks and performance benchmarks required for your business operations.
• Teacher model selection: Choose a high-performing LLM as your teacher, ensuring it excels at your chosen tasks.
• Student model design: Architect a smaller model that can be trained efficiently while retaining core capabilities.
• Distillation training: Use the teacher’s outputs to guide the student, focusing on both output accuracy and internal representations.

• Validation: Rigorously test the student model against real-world data to spot hallucinations and inaccuracies.
• Iterative fine-tuning: Continuously improve the student model by refining its training data and adjusting its architecture as needed.
• Deployment: Integrate the distilled model into your enterprise systems, monitoring performance and updating as required.

How the framework reduces hallucinations and improves accuracy

A key challenge with LLMs is their tendency to “hallucinate”—generating plausible-sounding but incorrect information. The distillation framework addresses this by incorporating validation steps that test the student model against curated datasets and real-world scenarios. By exposing the student to diverse data during training and fine-tuning, enterprises can reduce the risk of hallucinations and ensure outputs remain reliable. Furthermore, ongoing monitoring and iterative updates help maintain model accuracy as business needs evolve.

Practical considerations and implementation tips

• Customise training data: Use enterprise-specific datasets during distillation to align the model with your organizational context.
• Monitor model outputs: Regularly review the student’s responses to catch emerging issues early.
• Plan for scale: Design the distilled model architecture to support future growth and integration with other systems.
• Collaborate across teams: Involve domain experts during validation to ensure the model meets real-world requirements.

Benefits for large enterprises

For large organizations, model distillation offers several compelling advantages:

• Cost savings: Reduced computational demands lead to lower infrastructure and energy costs.
• Improved reliability: Streamlined models respond faster and are easier to maintain, ensuring consistent service.
• Scalability: Lightweight models can be deployed across multiple platforms and locations, supporting enterprise expansion.
• Enhanced accuracy: The framework’s focus on validation and fine-tuning helps minimise errors and hallucinations.

Conclusion

Model distillation stands out as a key technique for making large language models fit for enterprise operations. By transferring knowledge from complex models to efficient students, businesses can enjoy the best of both worlds—powerful AI capabilities without the heavy resource burden. As enterprises continue to adopt AI at scale, model distillation will play a pivotal role in ensuring solutions are cost-effective, reliable and tailored to real-world needs. IT professionals seeking to maximise the value of LLMs should consider integrating distillation frameworks into their optimization strategies, paving the way for smarter, more agile enterprise AI.

This article was made possible by our partnership with the IASA Chief Architect Forum. The CAF’s purpose is to test, challenge and support the art and science of Business Technology Architecture and its evolution over time as well as grow the influence and leadership of chief architects both inside and outside the profession. The CAF is a leadership community of the IASA, the leading non-profit professional association for business technology architects.

This article is published as part of the Foundry Expert Contributor Network.
Want to join?

I want you to think about the most fragile employee in your organization. They don’t take coffee breaks, they work 24/7 and they cost a fortune to recruit. But if a button on a website moves a few pixels to the right, this employee has a complete mental breakdown and stops working entirely.

I am talking, of course, about your RPA (robotic process automation) bots.

For the last few years, I have observed IT leaders, CIOs and business leaders pour millions into what we call automation. We’ve hired armies of consultants to draw architecture diagrams and map out every possible scenario. We’ve built rigid digital train tracks, convinced that if we just laid enough rail, efficiency would follow.

But we didn’t build resilience. We built fragility.

As an AI solution architect, I see the cracks in this foundation every day. The strategy for 2026 isn’t just about adopting AI; it is about attacking the fragility of traditional automation. The era of deterministic, rule-based systems is ending. We are witnessing the death of determinism and the rise of probabilistic systems — what I call the shift from static workflows to intelligent automation.

The fragility tax of old automation

There is a painful truth we need to acknowledge: Your current bot portfolio is likely a liability.

In my experience and architectural practice, I frequently encounter what I call the fragility tax. This is the hidden cost of maintaining deterministic bots in a dynamic world. The industry rule of thumb  —  and one that I see validated in budget sheets constantly — is that for every $1 you spend on BPA licenses, you end up spending $3 on maintenance.

Why? Because traditional BPA is blind. It doesn’t understand the screen it is looking at; it only understands coordinates (x, y). It doesn’t understand the email it is reading; it only scrapes for keywords. When the user interface updates or the vendor changes an invoice format, the bot crashes.

I recall a disaster with an enterprise client who had an automated customer engagement process. It was a flagship project. It worked perfectly until the third-party system provider updated their solution. The submit button changed from green to blue. The bot, which was hardcoded to look for green pixels at specific coordinates, failed silently.

But fragility isn’t just about pixel colors. It is about the fragility of trust in external platforms.

We often assume fragility only applies to bad code, but it also applies to our dependencies. Even the vanguard of the industry isn’t immune. In September 2024, OpenAI’s official newsroom account on X (formerly Twitter) was hijacked by scammers promoting a crypto token.

Think about the irony: The company building the most sophisticated intelligence in human history was momentarily compromised not by a failure of their neural networks, but by the fragility of a third-party platform. This is the fragility tax in action. When you build your enterprise on deterministic connections to external platforms you don’t control, you inherit their vulnerabilities. If you had a standard bot programmed to Retweet@OpenAINewsroom, you would have automatically amplified a scam to your entire customer base.

The old way of scripting cannot handle this volatility. We spent years trying to predict the future and hard-code it into scripts. But the world is too chaotic for scripts. We need architecture that can heal itself.

The architectural pivot: From rules to goals

To capture the value of intelligent automation (IA), you must frame it as an architectural paradigm shift, not just a software upgrade. We are moving from task automation (mimicking hands) to decision automation (mimicking brains).

When I architect these systems, I look not only for rules but also for goals.

In the old paradigm, we gave the computer a script: Click button A, then type text B, then wait 5 seconds. In the new paradigm, we use cognitive orchestrators. We give the AI a goal: Perform this goal.

The difference is profound. If the submit button turns blue, a goal-based system using a large language model (LLM) and vision capabilities sees the button. It understands that despite the color change, it is still the submission mechanism. It adjusts its own path to achieving the goal.

Think of it like the difference between a train and an off-road vehicle. A train is fast and efficient, but it requires expensive infrastructure (tracks) and cannot steer around a rock on the line. Intelligent automation is the off-road vehicle. It uses sensors to perceive the environment. If it sees a rock, it doesn’t derail; it decides to go around it.

This isn’t magic; it’s a specific architectural pattern. The tech stack required to support this is fundamentally different from what most CIOs currently have installed. It is no longer just a workflow engine. The new stack requires three distinct components working in concert:

1. The workflow engine: The hands that execute actions.
2. The reasoning layer (LLM): The brain that figures out the steps dynamically and handles the logic.
3. The vector database: The memory that stores context, past experiences and embedded data to reduce hallucinations.

By combining these, we move from brittle scripts to resilient agents.

Breaking the unstructured data barrier

The most significant limitation of the old way was its inability to handle unstructured data. We know that roughly 80% of enterprise data is unstructured, locked away in PDFs, email threads, Slack and MS Teams chats, and call logs. Traditional business process automation cannot touch this. It requires structured inputs: rows and columns.

This is where the multi-modal understanding of intelligent automation changes the architecture.

I urge you to adopt a new mantra: Data entry is dead. Data understanding is the new standard.

I am currently designing architectures where the system doesn’t just move a PDF from folder A to folder B. It reads the PDF. It understands the sentiment of the email attached to it. It extracts the intent from the call log referenced in the footer.

Consider a complex claims-processing scenario. In the past, a human had to manually review a handwritten accident report, cross-reference it with a policy PDF and check a photo of the damage. A deterministic bot is useless here because the inputs are never the same twice.

Intelligent automation changes the equation. It can ingest the handwritten note (using OCR), analyze the photo (using computer vision) and read the policy (using an LLM). It synthesizes these disparate, messy inputs into a structured claim object. It turns chaos into order.

This is the difference between digitization (making it electronic) and digitalization (making it intelligent).

Human-in-the-loop as a governance pattern

Whenever we present this self-driving enterprise concept to clients, the immediate reaction is “You want an LLM to talk to our customers?” This is a valid fear. But the answer isn’t to ban AI; it is to architect confidence-based routing.

We don’t hand over the keys blindly. We build governance directly into the code. In this pattern, the AI assesses its own confidence level before acting.

This brings us back to the importance of verification. Why do we need humans in the loop? Because trusted endpoints don’t always stay trusted.

Revisiting the security incident I mentioned earlier: If you had a fully autonomous sentient loop that automatically acted upon every post from a verified partner account, your enterprise would be at risk. A deterministic bot says: Signal comes from a trusted source -> execute.

A probabilistic, governed agent says: Signal comes from a trusted source, but the content deviates 99% from their semantic norm (crypto scam vs. tech news). The confidence score is low. Alert human.

That is the architectural shift we need.

• Scenario A: The AI is 99% confident it understands the invoice, the vendor matches the master record and the semantics align with past behavior. The system auto-executes.
• Scenario B: The AI is only 70% confident because the address is slightly different, the image is blurry or the request seems out of character (like the hacked tweet example). The system routes this specific case to a human for approval.

This turns automation into a partnership. The AI handles the mundane, high-volume work and your humans handle the edge cases. It solves the black box problem that keeps compliance officers awake at night.

Kill the zombie bots

If you want to prepare your organization for this shift, you don’t need to buy more software tomorrow. You need to start with an audit.

Look at your current automation portfolio. Identify the zombie bots, which are the scripts that are technically alive but require constant intervention to keep moving. These bots fail whenever vendors update their software. These are the bots that are costing you more in fragility tax than they save in labor.

Stop trying to patch them. These are the prime candidates for intelligent automation.

The future belongs to the probabilistic. It belongs to architectures that can reason through ambiguity, handle unstructured chaos and self-correct when the world changes. As leaders, we need to stop building trains and start building off-road vehicles.

The technology is ready. The question is, are you ready to let go of the steering wheel?

Disclaimer: This and any related publications are provided in the author’s personal capacity and do not represent the views, positions or opinions of the author’s employer or any affiliated organization.

This article is published as part of the Foundry Expert Contributor Network.
Want to join?

I remind CIOs, “You will always be transforming.” Every two years, new business drivers emerge, such as the pandemic from 2020-2022 and automation-driven efficiencies from 2023-2024. We’re now in the gen AI era, where most CIOs are under pressure to shift from driving broad experiments to delivering business value and ROI.

As a result, CIOs need to refocus their strategies and communicate an updated vision for transformation. My 2025 article on what’s in and out for digital transformation stressed the importance of developing transformational leaders and AI-ready employees while avoiding AI moonshots and ending lift-and-shift cloud migrations.

In 2026, experts suggest that CIOs must transform IT, transition AI to customer experience (CX) opportunities, and double down on data governance and security.   

In: Reengineering IT’s digital operating model

In 2025, I wrote about how AI is the end of IT as we know it and how CIOs are rethinking IT for the agentic AI era. World-class IT organizations are setting higher expectations, partnering with departments on AI change management, and committing to lifelong learning.

With all the AI innovations impacting IT, CIOs will need to refocus their digital operating models to deliver more capabilities faster, at lower cost, and with higher resiliency.

Sesh Tirumala, CIO at Western Digital, says, “Velocity gets us ahead, resilience keeps us steady, and adaptability ensures we stay ahead. Direction matters, and in 2026, velocity is the real currency of success.”

How can CIOs aim higher when CEOs and boards are demanding ROI from AI? Jay Upchurch, CIO at SAS, says the best and brightest CIOs will snap up commercial responsibilities. “Top CIOs will sell customers and their divisional peers on technology like CMOs, and answer the constant call to do more with less like CFOs.”

I expect many CIOs will reorganize IT in 2026. Some will be mandated to reduce costs and headcount, while others will drive efficient collaboration in their product management, agile, and DevOps practices. Top CIOs will seek opportunities to guide reorganization across the enterprise as agentic AI creates new workflow patterns and cross-department collaboration opportunities.

“CEOs will conclude that AI adoption is no longer a technology problem but a workforce and management problem,” says Florian Douetteau, co-founder and CEO of Dataiku. “Instead of selling cloud migrations and data platforms, consultants will start selling organizational rewiring to prepare for AI-run operations. This shift creates tension inside enterprises because it surfaces the real blocker: leadership culture, not technology.”

Raja Roy, senior managing partner in the office of technology excellence at Concentrix, adds, “The new priority: operating models that support rapid learning, collaboration, and real-time evolution, keeping the human/AI balance aligned to the right tasks, whether an interaction calls for a human touch or machine efficiency.”

Recommendation: CIOs should review IT’s structure and agile practices to increase the effectiveness of delivering AI innovations and improve operational resilience.

Out: Underinvesting in data governance

Data governance is a critical function in global regulated enterprises, where governance, risk, and compliance (GRC) are critical top-down mandates. Midsize organizations are catching up, as they evolve to data-driven organizations and centralize data for AI initiatives.

While governing relational databases and warehouses is a relatively mature process, deploying agentic AI capabilities requires new tools and practices to extend data governance to unstructured data sources. 

“Unstructured data now moves too fast for manual oversight, and organizations can finally govern it as it’s created instead of cleaning it up later,” says Felix Van de Maele, CEO of Collibra. “In 2026, human judgment still matters, but AI-assisted systems, not spreadsheets or static controls, will carry the day-to-day load.”

Van de Maele suggests that AI-powered metadata generation for unstructured data, with integrated data practices for building reliable AI at scale is in, while CIOs should move away from manual tagging, siloed datasets, and one-time compliance efforts.

Additionally, many data governance leaders must get more granular controls on who gets access to what data. Authorizing users to full datasets and file systems is no longer sufficient as more organizations deploy AI agents on top of whatever data an employee can access.  

“Many organizations do not know where their sensitive data lives, who can access it, or how much is exposed across cloud and SaaS systems,” says Yair Cohen, co-founder and VP of product at Sentra. “Leaders in 2026 will treat governance as an engineering practice by embedding classification, tagging, and access rules directly into data pipelines, warehouses, and AI workflows.”

Recommendation: CIOs should be paranoid about data risks, take a sponsorship role in data governance, and ensure that improving data quality is prioritized in every AI initiative.

In: Targeting AI for growth and UX

In 2025, I warned CIOs about promoting AI as a driver of productivity and efficiency. Eventually, the CFO wants to see ROI, and this is one reason we saw significant technology layoffs in 2025.

I compiled over 50 expert predictions around 2026 on AI, from agentic workflows improving operations through gen AI embedded in customer experiences. I believe AI will have its Uber and Airbnb moment in 2026, as startups revolutionize customer experiences and disrupt slower-moving business-to-consumer (B2C) enterprises.

One easy way to embrace AI-enabled customer experiences is to upgrade call centers and chatbots without major infrastructure investments. Rob Scudiere, CTO at Verint, says, “Brands can layer an AI-powered chatbot onto their existing application instead of replacing an outdated telephony system and interactive voice response (IVR).”

When considering improving customer experiences, Pasquale DeMaio, VP of Amazon Connect, says to embrace systems that leverage AI and human strengths. “In customer support, agentic AI will manage routine requests while human agents will address complex issues with empathy and nuance, guided by AI insights and recommendations.”

CIOs should recognize a paradigm shift in UX, as data entry forms, customer journeys, and prescriptive reports get replaced with agentic AI capabilities. Focusing on AI in customer support is an easy entry point, as the entire customer experience, especially in ecommerce and SaaS tools, requires redesigning with AI capabilities.

“AI agents will become the frontend of the company as the primary starting point for any and all external contact,” says Antoine Nasr, head of AI at Forethought. “End-users will no longer have to try and navigate to the correct department and tool to get the help or information they need — they will simply interact with the company’s public AI agent in natural language. With that, agent design will become a key concern for several functions, not just customer support.”

Recommendation: Product-based IT organizations are a step ahead in anticipating how AI will evolve CX, and they should plan to segment and learn from early AI adopters.  

Out: AI experimentation without paths to short-term business value

Several research reports in 2025 highlighted how few AI experiments are being deployed into production and delivering business value. CEOs and boards will demand that CIOs narrow the portfolio of AI experiments and have real plans to deliver ROI from AI investments.

Conal Gallagher, CISO and CIO at Flexera, says in the next era of AI, execution matters more than experimentation. “CIOs will only continue to face bigger challenges and pressure to move beyond the AI experimentation phase and deliver clear, actionable, and measurable business outcomes.”

AI agents from top enterprise SaaS and security companies follow common patterns. These AI agents focus on a primary employee workflow, connect to multiple data sources, and aim to do more than complete tasks. CIOs will have to demonstrate the business value of how these AI agents guide employees in making smarter, faster decisions and the financial impacts of AI-revolutionized workflows.

“Agentic AI delivers measurable ROI in months, not years, because it replaces entire processes, not just parts of them,” says Luke Norris, co-founder and CEO of KamiwazaAI. “Each successful deployment accelerates the next, creating a self-funding innovation loop. More and more enterprises will be realizing this compounding ROI in the coming 6-12 months.”

Experts offer guidance on transitioning from an experimental to an outcome-based mindset. Kerry Brown, transformation evangelist at Celonis, says after years of big AI investment, it’s time to rethink end-to-end processes rather than just adding more automation on top.

“Leaders need to empower employees with visibility into how work really happens, and give them ownership in redesigning it,” says Brown. “When teams have that context and agency, they become true drivers of transformation and help create a faster, more direct path to ROI.”

Ed Frederici, CTO at Appfire, adds, “What’s out in 2026 is treating AI as a standalone, isolated initiative, and the next wave of digital transformation moves beyond scattered pilots to full operational integration. CIOs will treat AI as core business infrastructure rather than a special project — holding it to the same expectations for accuracy, security, and performance as every other critical system.”

Recommendation: Organizations with too many independently running AI experiments should revisit their AI governance strategy, communicate clear objectives, and prioritize where to build AI delivery plans. 

In: Implementing security before AI deployments

Nearly every transformational technology started with a gold rush to deliver innovations, and bolting on security afterward. CIOs will face pressure to move last year’s AI experiments into production this year, and we’ll have to see to what extent security will be implemented in initial deployments.

Many experts chimed in on where CIO’s need to get ahead of the curve. Here are three recommendations:

• Implement agentic AI observability and trust verification frameworks. “2026 marks a major shift in the threat landscape as agentic commerce takes hold, and in turn, AI-driven deception accelerates,” says Gavin Reid, CISO at HUMAN Security. “CIOs need visibility into how and what AI agents operate across their environments and deploy trust verification frameworks that continuously validate identity, intent, and behavior in real-time.”
• Establish security by design, especially around identity. “A unified identity layer is now a prerequisite for effective AI security implementation and is an urgent priority for any organization making AI investments,” says Ev Kontsevoy, CEO and co-founder of Teleport. “Organizations that embed these secure-by-design practices across development, delivery, and operations, and treat infrastructure security as a necessary mandate, will be best prepared for the transformational changes that AI will introduce.”
• Extend data loss prevention to AI-powered browsers. “AI-powered browsers like OpenAI’s Atlas and Perplexity’s Comet are one of the biggest blind spots in enterprise security,” said Rohan Sathe, co-founder and CEO at Nightfall. “Employees use them to research deals, draft customer outreach, and summarize strategy docs, giving agents with memory and sync direct access to logged-in Gmail, CRM, and code repos. Legacy data loss prevention cannot see this, since it was built for files, not browser-level activity, prompts, or clipboard moves.”

Recommendation: CIOs must partner with CISOs, legal, and risk management to clearly define AI security non-negotiables, platforms, and implementation requirements.

CIOs should expect the unexpected in 2026, whether driven by volatile economic conditions, new AI capabilities, or headline-making security incidents. My back-to-basics recommendations for digital transformation in 2026 aim to guide CIOs toward growth opportunities while improving operational resiliency.

It may come as no surprise that a huge percentage of developers don’t trust AI-generated code, but many also say it’s becoming more difficult to check for errors created by coding assistants.

As AI coding assistants take over an ever-increasing amount of programming work, human coding teams are struggling to find the time to spot the errors, development leaders say. Coding assistants are improving the quality of their output, but they have also tended to become more verbose — writing more lines of code to fix a problem — making it harder to spot errors when they pop up, according to coding experts.

As a result, a major problem with AI-generated code is arising: developers sometimes spending more time reviewing AI output than they would have spent writing the code themselves.

While AI coding assistants have become ubiquitous, developers shouldn’t trust them, says Alex Lisle, CTO of deepfake detection platform Reality Defender.

All the software engineers Lisle works with use coding assistants in some capacity, but the company’s developers keep a close eye on their output, he says. “The truth of the matter is most of my developers don’t use AI-generated code for more than boilerplate and fixing a few little things,” he says. “We don’t trust AI-generated code at all.”

The responsibility for the quality of the code resides with the developer using the coding assistant, Lisle adds.

Cranking out code

The volume of code that can be generated by AI tools creates its own problems, Lisle contends.

“It’s kind of like having a junior developer who can write a very large amount of code very quickly,” he explains. “The problem with that is it doesn’t understand the code and the broader context. It often does the opposite of what you ask it to do.”

Overreliance on AI-generated code can lead to a code base that’s impossible to understand, Lisle says.

“The problem is as soon as you start leveraging it in a broader context, it creates an incredibly unstable and unknowable code,” he adds. “You can get an AI to generate hundreds of thousands of lines of code, but it’s very difficult to maintain, very difficult to understand, and in a production environment, none of that is suitable.”

Microsoft-focused coding firm Keypress Software Development Group has had mixed results with AI coding assistants, says Brian Owens, president and senior software architect there.

AI-generated code often requires only minimal review for small, self-contained use cases, but for production-grade applications, the output can be inconsistent and problematic, he says.

“We’ve found that AI tools will occasionally ignore key aspects of the existing codebase or fail to align with established coding standards and architectural patterns,” Owens says. “That creates additional work for our team in the form of review, refactoring, and rework to ensure the code is production ready.”

Owens has found that using a coding assistant may not save time over a human developer writing the code. “In some cases, the time spent validating and correcting AI-generated code can offset the expected efficiency gains — and occasionally takes more time than if a developer had written the code without AI assistance,” he says.

Major lack of trust

A recent survey of more than 1,100 IT professionals by code quality tool provide Sonar backs up the trust concerns voiced by some development leaders. While 72% of those surveyed say they use coding assistants every day, 96% say they don’t fully trust AI-generated code.

At the same time, less than half of developers say they always check their AI-generated code before committing it, with nearly four in 10 saying that reviewing AI-generated code requires more effort than code written by their human coworkers.

As the quality of coding assistants improves, developers are finding it more difficult to find errors, says Chris Grams, vice president of corporate marketing at Sonar — and not because they aren’t there.

“As these coding models get better and better, you have a little bit of a needle-in-a-haystack problem, where there may be fewer and fewer issues overall, but those issues are going to a big security issue that’s well hidden and hard to find and could be the thing that takes down an application,” he says.

While many software development leaders say they don’t trust AI-generated code, the issue may be more nuanced, says Mark Porter, CTO at data analytics solutions provider dbt Labs.

Coding assistants are widely used at dbt Labs, he says, and trusting their output depends on the context.

“Trusting AI written code is much like trusting human-written code,” he adds. “In general, I look for the same trust signals in AI-generated code as any other code. If it was created via a high-integrity process, I trust it just like I would trust human code.”

The review bottleneck

But AI-generated code can be faulty in different ways than human-written code, with AI often adding complexity and creating overly confident comments, Porter says. The trust equation must adapt to these unique challenges.

Reviewing AI code also creates its own challenges, adding to the developer’s reviewing time, even as it saves coding time, he says. “The output volume is high, so it shifts the bottleneck from producing code to reviewing it,” he adds.

Human reviews also need to maintain expert-level familiarity with the codebase, Porter says, which can be mitigated through software engineering best practices.

“There are certainly unique challenges to reviewing AI-written code,” he adds. “I think the question of trusting AI code is missing the point a bit; what I’m thinking about is how to build processes and guidelines and training that support my engineers using AI to assist them in writing efficient and correct code that is also maintainable — and that’s the future of AI in coding, in my opinion.”

네이버는 이번 C레벨 리더십 체계 개편을 통해 AI 에이전트부터 피지컬 AI, 웹3 등 변화하는 글로벌 환경에 보다 기민하게 대응하고, 신규 사업 모델 발굴과 전략적 글로벌 파트너십 확대에 속도를 낼 계획이다. 아울러 AI를 비롯한 기술의 사회적 영향력이 확대되는 흐름에 맞춰, 기업의 사회적 책임을 한층 강화해 나간다는 방침이다.

먼저, 네이버 주요 서비스 전반에 AI 에이전트 적용을 가속화하고 검색 및 데이터 기술 플랫폼의 통합·고도화를 추진하기 위해 김광현 검색 플랫폼 부문장이 CDO(Chief Data & Contents Officer, 최고 데이터·콘텐츠 책임자)로 선임될 예정이다. 김광현 CDO는 네이버 전반에 축적된 사용자 데이터와 콘텐츠를 유기적으로 결합해 네이버 앱과 주요 서비스 전반에 차별화된 AI 에이전트 경험을 구현하고, 중·장기적인 서비스 경쟁력 강화를 이끌 계획이다.

또한 유봉석 정책/RM 부문장은 신임 CRO(Chief Corporate Responsibility Officer, 최고 책임경영 책임자)로서 급변하는 대외 환경 속에서 회사 전반의 정책 및 리스크 관리 체계를 총괄한다. 이를 통해 네이버가 이해관계자와 사용자 신뢰를 기반으로 사회적 책임을 다하는 플랫폼으로 지속 성장할 수 있도록 관련 정책 운영과 안정적인 서비스 환경 구축을 추진할 예정이다.

아울러 회사와 구성원의 성장을 지원하는 인사 운영 체계를 마련하기 위해 황순배 HR 부문장이 CHRO(Chief Human Resources Officer, 최고 인사 책임자)로 선임될 예정이다. 황순배 CHRO는 기술 환경과 업무 방식 변화에 대응해 전사 인사 전략과 조직 운영 체계를 총괄하며, 중장기 인사 정책 수립과 AI 시대에 부합하는 조직 경쟁력 강화를 주도할 계획이다.

네이버는 보도자료를 통해 “앞으로 C레벨 리더십 중심의 책임경영 체제 하에서 쇼핑, 금융, 클라우드, AI 등 다양한 사업 및 기술 영역에서 ‘팀 네이버’의 역량을 유기적으로 결합해 ‘에이전트 N’을 중심으로 AI 경쟁력을 한층 고도화하고, 새로운 글로벌 사업 기회 발굴과 도전을 이어갈 것”이라고 밝혔다.

한편, 새롭게 선임되는 C레벨 리더는 오는 2월 1일자로 공식 취임하며, 새로운 리더십 체계에 따른 세부 조직 개편은 순차적으로 진행될 예정이다.
jihyun.lee@foundryco.com

엣지 AI와 관련해 레드햇의 엣지 프로젝트 관리 부문 시니어 디렉터 조슈아 데이비드는 “글로벌 시장은 현재 가파른 성장 궤도에 올라 있다”라고 말했다. 실제로 엣지 AI 시장 규모는 2034년까지 1,430억 달러에 이를 것으로 예상되고 있다.

엣지 AI의 성장세는 업계 전반이 머신러닝(ML) 모델에 데이터를 학습시키는 AI 학습 중심에서 벗어나, 운영 환경에서 모델을 실제로 활용해 지식을 적용하거나 예측을 수행하는 추론 중심으로 이동하는 흐름과 맞물려 있다.

엔터프라이즈 데이터 관리·통합 기업 인포매티카의 제품 관리 부문 부사장 수밋 아그라왈은 “강력하면서도 에너지 효율적인 AI 프로세서의 발전과 사물인터넷(IoT) 기기의 확산이 이러한 흐름을 가속하고 있다. 복잡한 AI 모델을 엣지 디바이스에서 직접 실행할 수 있는 환경을 가능하게 하고 있다”라고 설명했다.

이와 관련해 모건스탠리 블로그는 AI 산업이 “새롭고, 잠재적으로 훨씬 더 큰 단계인 AI 추론으로 접어들고 있다”라고 언급하며, 이 단계의 핵심 특징으로 소비자용 애플리케이션과 기업 전반에 걸쳐 AI 모델이 광범위하게 채택된다는 점을 짚었다.

엣지 컴퓨팅은 퍼블릭 클라우드와는 다른 장점을 제공한다. 퍼블릭 클라우드는 확장성과 사용 편의성 측면에서 강점이 있지만, 추론 관점에서는 한계도 분명하다. 지연 시간이 늘어나고 데이터 프라이버시 우려가 커지며, 연산 처리와 데이터 유입·유출 과정에서 비용 부담이 증가한다는 점이 대표적이다. 반면 AI를 엣지에서 실행하면 이러한 문제 상당 부분을 해소할 수 있다. 데이비드는 “엣지 AI는 지연 시간 감소, 비용 절감, 보안과 프라이버시 강화 등 여러 핵심적인 이점을 제공한다”라고 설명했다.

아마존이 최근 일부 ML 학습 작업에 주로 사용되는 GPU 이용 요금을 15% 인상한 사례처럼, 중앙 집중형 학습을 중심으로 한 클라우드 AI 비용은 예측하기 어려운 방향으로 흘러가고 있다. IDC는 2027년까지 CIO의 80%가 AI 추론 수요를 충족하기 위해 클라우드 업체의 엣지 서비스를 활용할 것으로 전망했다.

다만 이러한 전환이 순탄하게 이뤄지지는 않을 전망이다. 실시간 성능에 대한 높은 요구, AI 스택이 차지하는 큰 시스템 자원 부담, 파편화된 엣지 생태계는 여전히 주요 과제로 남아있다.

이 글에서는 엣지 AI를 둘러싼 기술 개발 현황을 살펴보고, 엣지 환경에서 AI를 실행하기 위한 새로운 기술과 운영 방식, 그리고 AI 시대에 컴퓨팅의 미래가 어떻게 진화할지 전반적으로 짚어본다.

엣지 AI 성장을 이끄는 요인

데이비드는 “엣지 AI 확산의 가장 큰 동인은 실시간 데이터 처리에 대한 요구”라고 설명했다. 중앙화된 클라우드 기반 AI 워크로드에 의존하는 대신, 엣지에서 직접 데이터를 분석하면 데이터가 생성되는 지점에서 즉각적인 의사결정을 내릴 수 있다는 점이 핵심이라는 분석이다.

여러 전문가도 같은 의견을 내놓고 있다. 인포매티카의 아그라왈은 “엣지 AI에 대한 관심이 폭발적으로 증가하고 있다”라고 전하며, 특히 산업 현장이나 자동차 분야처럼 찰나의 판단이 중요한 환경에서는 지연 시간 감소가 가장 큰 장점으로 작용하고 있다고 진단했다.

또한 클라우드로 데이터를 보내지 않고도 ML 모델에 개인적이거나 기업 고유의 맥락 정보를 제공하려는 수요 역시 커지고 있다. 오픈소스 애플리케이션 플랫폼 제공사 템포럴 테크놀로지의 시니어 스태프 소프트웨어 엔지니어이자 AI 기술 책임자인 요한 슐라이어-스미스는 “프라이버시는 매우 강력한 동인”이라면서, 의료나 금융처럼 규제가 엄격한 산업에서는 민감한 정보를 로컬에서 처리하는 것이 규제 준수를 위해 필수적이라고 분석했다.

수세(SUSE)의 엣지 사업 부문 부사장 겸 총괄 책임자 키스 바실 역시 “엣지 AI에 대한 관심은 분명히 증가하고 있다”라고 밝혔다. 그는 제조 분야를 대표적인 사례로 꼽으며, 기업이 생산 라인을 운영하는 대형 서버부터 소형 센서에서 발생하는 데이터를 처리하는 영역까지 다양한 사용례에 엣지 AI 도입을 검토하고 있다고 설명했다.

로크웰 오토메이션에 따르면 제조 기업의 95%가 향후 5년 내에 AI/ML, 생성형 AI, 인과 기반 AI에 이미 투자했거나 투자를 계획하고 있다. 또 2024년 인텔의 CIO 보고서에서는 제조 분야 리더의 74%가 AI가 매출 성장에 기여할 잠재력이 있다고 답했다.

로컬 AI 연산의 가장 큰 효과는 비용 절감이다. 아그라왈은 “전송해야 할 데이터 양이 줄어들면서 비용과 대역폭을 크게 최적화할 수 있다”라고 설명했다.

특정 워크로드를 엣지에서 처리하는 방식은 비용 절감뿐만 아니라 에너지 소비 감소와도 밀접하게 연결된다. 2025년 1월 아카이브(Arxiv)에 발표된 논문 ‘하이브리드 엣지 클라우드의 에너지 및 비용 절감 효과 정량화’에서는 순수 클라우드 처리 방식과 비교해, 에이전트 기반 AI 워크로드에 하이브리드 엣지 클라우드를 적용할 경우 조건에 따라 최대 75%의 에너지 절감과 80%를 웃도는 비용 절감 효과를 거둘 수 있다고 분석했다.

해당 논문의 저자인 시아바시 알라무티는 “엣지 처리는 로컬 컴퓨팅의 맥락을 직접 활용해 연산 복잡도를 낮추고, 클라우드 규모에서 발생하는 막대한 에너지 수요를 피할 수 있다”라고 진단했다.

로컬 AI를 가능하게 하는 기술

엣지 AI 성장을 이끄는 요인은 분명해 보이지만, 이를 실제로 구현하기 위해서는 어떤 기술이 필요할까? 자원이 제한된 엣지 환경에서 AI 연산을 실행하려면 소규모 언어 모델, 경량 프레임워크, 최적화된 배포 방식이 결합돼야 할 가능성이 크다.

소규모 언어 모델(SLM)

지금까지 대부분의 기업은 앤트로픽의 클로드, 구글의 제미나이, 오픈AI의 GPT 모델과 같은 범용 서비스 기반의 LLM을 활용해 AI를 중앙에서 운영해 왔다. 그러나 최근 AI 모델 기술이 발전하면서 이런 구조에도 변화가 나타나고 있다.

특히 자체 배포가 가능한 SLM은 특정 사용례에서 클라우드 AI 플랫폼에 대한 의존도를 낮추고 있다. 템포럴 테크놀로지의 슐라이어-스미스는 “SLM의 성능이 빠르게 향상되고 있다”라며, 최근 기술 진전의 사례로 오픈AI의 GPT-OSS와 계층적 추론 모델을 언급했다.

최적화 전략

로컬 AI의 시스템 부담을 줄이는 것은 연산 능력과 대역폭이 제한된 엣지 디바이스 환경에서 특히 중요하다. 이에 따라 SLM을 최적화하는 기술이 엣지 AI 구현을 뒷받침하는 핵심 영역으로 떠오르고 있다.

대표적인 전략 가운데 하나는 모델 압축 기법인 양자화다. 양자화는 모델 크기와 연산 요구량을 줄이는 방식으로, 엣지 환경에 적합한 형태로 AI 모델을 경량화한다. 아그라왈은 “이러한 기법을 통해 NPU, 구글의 엣지 TPU, 애플의 뉴럴 엔진, 엔비디아 젯슨 디바이스와 같은 특화 하드웨어에서 SLM을 실행할 수 있다”라고 설명했다.

자체 완결형 패키지 역시 엣지 AI를 대규모로 운영하는 데 도움이 될 수 있다. 데이비드는 운영체제, 하드웨어 드라이버, AI 모델을 하나로 묶은 즉시 배포 가능한 베이스 이미지가 엣지 AI 상용화를 현실화하는 접근 방식이라고 설명했다.

엣지 런타임 및 프레임워크

새로운 런타임 및 프레임워크 역시 엣지 환경에서의 AI 추론을 최적화하는 데 중요한 역할을 한다. 데이비드는 경량 생성형 AI 런타임인 llama.cpp와 함께, 로컬 하드웨어에서 모델 추론을 지원하는 오픈비노(OpenVINO)와 라이트RT(LiteRT, 이전 텐서플로 라이트) 같은 프레임워크를 언급했다.

아그라왈은 “llama.cpp와 GGUF 모델 포맷 같은 프로젝트는 다양한 소비자용 디바이스에서 고성능 추론을 가능하게 하고 있다. MLC LLM과 웹LLM(WebLLM) 역시 웹 브라우저와 다양한 네이티브 플랫폼에서 AI를 직접 실행할 수 있는 가능성을 확장하고 있다”라고 말했다.

클라우드 네이티브 호환성

엣지 AI가 클라우드 네이티브 생태계 및 쿠버네티스와의 호환성을 확보하는 것 역시 중요한 과제로 떠오르고 있다. 쿠버네티스가 이미 엣지 환경으로 빠르게 확산되고 있기 때문이다. 대표적인 사례로는 ‘자체 호스팅 AI를 위한 오픈소스 표준’으로 소개되는 케이서브(KServe)가 있다. 케이서브는 쿠버네티스 환경에서 엣지 추론을 지원하는 프레임워크다.

또 다른 핵심 기술로는 클라우드 네이티브 컴퓨팅 재단(CNCF)이 운영하는 샌드박스 프로젝트 아크리(Akri)가 꼽힌다. 수세의 바실은 “아크리는 엣지 환경에서 다양한 동적 디바이스와 간헐적으로 연결되는 리프 디바이스를 쿠버네티스에서 쉽게 활용할 수 있도록 만든다”라고 설명했다. 아크리를 활용하면 IP 카메라, 센서, USB 디바이스 등 다양한 엔드포인트를 쿠버네티스 리소스로 노출할 수 있어, 해당 하드웨어에 의존하는 엣지 AI 워크로드를 보다 손쉽게 배포하고 쿠버네티스에서 모니터링할 수 있다.

개방형 표준

마지막으로 엣지 AI 확산 과정에서 개방형 산업 표준이 중요한 역할을 할 것으로 보인다. 바실은 “빠르게 확장되고 있는 엣지 AI 하드웨어와 소프트웨어 환경은 심각한 상호운용성 문제를 안고 있다”라고 설명했다. 그는 리눅스 재단이 주도하는 마고(Margo)와 같은 프로젝트가 산업용 엣지 자동화 분야에서 표준을 정립하는 데 중요한 역할을 할 것으로 내다봤다.

이와 함께 ONNX도 온디바이스 AI 추론을 위한 경쟁 프레임워크 간 상호운용성 문제 해결에 도움이 될 표준으로 주목받고 있다.

엣지 AI의 현실적 장벽

기술 자체는 이미 마련돼 있지만, 엣지 AI를 실제로 운영하는 방식은 아직 초기 단계에 머물러 있다. 개념 증명 수준에서 벗어나 엣지 AI 애플리케이션을 본격적인 운영 환경으로 옮기기까지는 여러 과제를 극복해야 한다.

아그라왈은 “가장 근본적인 한계는 엣지 디바이스가 지닌 자원 제약”이라고 지적했다. 그는 “메모리와 연산 능력이 제한적이기 때문에, 막대한 연산 자원을 요구하는 크고 복잡한 AI 모델을 배포하는 데 어려움이 따른다”라고 말했다.

자원이 제한된 하드웨어 환경에 맞게 모델 크기를 최적화하면서도, 사용자가 기대하는 고성능 상위 모델 수준의 정확도를 유지해야 한다는 점 역시 여전히 해결해야 할 과제다.

또한 엣지 AI 운영에 대한 실무 경험도 아직 충분히 축적되지 않았다. 데이비드는 “특화된 엣지 디바이스는 하드웨어 구성이 복잡하고, 대부분 즉시 사용 가능한 상태로 동작하지 않는다는 점이 주요 장애물”이라고 설명했다. 그는 최전방 엣지 환경에서 모델을 배포하고 모니터링하며 관리할 수 있는 엔드투엔드 플랫폼이 부족해, 현재로서는 복잡한 수작업 방식에 의존할 수밖에 없는 상황이라고 지적했다.

바실은 “엣지 AI의 주요 과제는 파편화된 생태계”라고 덧붙였다. 그는 “표준화되고 성숙한 클라우드 컴퓨팅 환경과 달리, 엣지 AI는 하드웨어와 소프트웨어, 통신 프로토콜 전반에 걸쳐 공통된 프레임워크가 부족하다”라고 설명했다. 이러한 산업 전반의 파편화는 디바이스별로 경쟁적인 소프트웨어와 기술을 양산하고, 그 결과 엣지 환경에서는 호환성 문제와 개별 맞춤형 해결책이 뒤따르게 된다.

마지막으로 분산된 AI 모델 네트워크를 관리하는 문제도 복잡한 운영 과제로 꼽힌다. 아그라왈은 “수많은 디바이스에 배포된 모델을 대상으로 보안 업데이트와 버전 관리, 성능 모니터링을 동시에 수행하는 것은 매우 어려운 작업”이라며 “엣지 AI를 효과적으로 확장하기 위해 기업이 반드시 해결해야 할 과제”라고 설명했다.

이러한 장벽을 극복하기 위해 전문가들은 몇 가지 실천 방안을 제시했다.

• 연결성이 낮은 환경에서의 추론과 같이 엣지 AI가 적합한 경우에 한해 도입.
• 비기술 분야 리더를 대상으로 비즈니스 가치를 지속적으로 전달.
• 전면적인 엣지 또는 클라우드 배포 대신 하이브리드 전략을 고려.
• 아키텍처 차원에서 소프트웨어 계층을 특정 하드웨어 의존성으로부터 분리.
• 엣지 환경의 제약에 최적화된 모델을 선택.
• 업데이트, 모니터링, 유지보수를 포함한 전체 모델 수명 주기를 초기 단계부터 구상.

중앙 집중형에서 분산 지능으로

엣지 AI에 대한 관심이 빠르게 높아지고 있지만, 대안형 클라우드로의 전환 흐름과 마찬가지로 전문가들은 로컬 처리가 중앙 집중형 클라우드에 대한 의존도를 의미 있게 낮추지는 않을 것으로 보고 있다. 슐라이어-스미스는 “엣지 AI가 본격적으로 주목받는 시점은 오겠지만, 도입 속도는 클라우드에 비해 뒤처질 것”이라고 설명했다.

엣지 AI는 퍼블릭 클라우드를 대체하기보다는 새로운 역량을 더해 보완하는 방향으로 발전할 가능성이 크다. 바실은 “기존 인프라를 대체하는 것이 아니라, 엣지에 AI를 배치해 더 똑똑하고 효율적이며 반응성이 높은 환경을 만드는 방식이 될 것”이라고 말했다. 이는 기존 운영체제를 사용하는 엔드포인트를 보완하거나, 온프레미스 서버 운영을 최적화하는 형태로 이어질 수 있다.

전문가들은 엣지 디바이스의 역할과 역량이 단기간 내 크게 강화될 것이라고 의견을 모았다. 아그라왈은 “하드웨어와 최적화된 모델, 배포 플랫폼이 빠르게 발전하면서 사물인터넷, 모바일 디바이스, 일상적인 애플리케이션 전반에 AI가 더욱 깊이 통합되는 모습을 보게 될 것”이라고 전망했다.

이어 그는 “앞으로 엣지 AI는 빠른 성장을 앞두고 있으며, 분산되고 사용자 중심적인 지능으로의 근본적인 전환을 이끌 것”이라고 내다봤다.
dl-ciokorea@foundryco.com

홍성화 지사장은 IBM, 썬마이크로시스템즈, 리버베드, 퀀텀 등 글로벌 IT 기업에서 영업 총괄을 맡아 왔으며, 25년 이상 영업 및 조직 관리 분야에서 경력을 쌓아온 인물이다.

엘티제로는 AI, 고성능 컴퓨팅(HPC), 클라우드 네이티브 워크로드 확산에 따라 증가하는 데이터를 관리하기 위한 통합 데이터 관리 환경을 제공한다. 주요 제품으로는 통합 스토리지 플랫폼, 클라우드 연동 테이프 라이브러리, 아카이브 인 어 박스(Archive in a Box), S3 테이프 라이브러리가 있다.

엘티제로의 홍성화 지사장은 “한국은 글로벌 금융, 공공, 연구·교육, 미디어·엔터테인먼트, 제조 산업의 핵심 거점으로서, 데이터 인프라의 중요성이 그 어느 때보다 커진 시장이다”라며 “엘티제로는 한국 기업들이 디지털 전환 전략을 추진하는 과정에서 데이터 성능, 보호 및 비용 효율성 사이의 타협 없이 최적의 데이터 관리를 구현할 수 있도록 현지 맞춤형 솔루션과 현지 지원 체계를 강화해 나갈 것이다”라고 밝혔다.

한편 엘티제로는 19일 서울 강남 현대아이파크(HDC)타워 포니정홀에서 ‘LT제로 한국 시장 공식 런칭 파트너 초청 세미나’를 개최했다. 행사에는 국내 주요 파트너사와 기업 IT 리더들이 참석해 LT제로의 한국 시장 진출 방향과 차세대 데이터 스토리지·아카이브 전략을 공유했다. 더불어 이날 자리에는 LT제로 회장 에드먼드 테이를 비롯한 본사 주요 임원진이 참석했다.

엘티제로는 싱가포르에 본사를 두고 아시아 주요 도시를 중심으로 세일즈 및 고객 지원 체계를 구축해 왔다. 이번 한국 시장 진출을 계기로 금융, 공공, 연구·교육, 미디어·엔터테인먼트, 제조 등 데이터 집약적 산업을 중심으로 사업을 전개할 계획이다.
dl-ciokorea@foundryco.com

수십 년 동안 IT 운영 매뉴얼은 대개 50페이지 분량의 빽빽한 PDF 문서였다. 사람이 만들고 사람이 읽도록 설계된 문서는, 감사가 필요해질 때까지 디지털 저장소 어딘가에서 방치되는 경우가 대부분이었다. 그러나 2026년에 접어든 지금, 전통적인 SOP는 사실상 수명을 다한 상태다. 이제 이 매뉴얼의 주된 사용자가 사람이 아니기 때문이다.

시스템은 점점 더 에이전트 기반으로 진화하고 있다. 단순히 대시보드를 감시하는 수준을 넘어, 스스로 사고하고 계획하며 인프라 내 변경을 실행하는 자율형 에이전트가 배치되고 있다. 이들 에이전트는 PDF 문서를 읽을 수 없고, 법률 용어로 작성된 보안 정책의 취지를 해석하지도 못한다. 자율형 IT 시대에 통제력을 유지하려면 고정된 규칙에 머무르지 않고 ‘에이전트 헌법’, 즉 앤트로픽이 제시한 ‘헌법 중심 AI(Constitutional AI)’를 기업 환경에 적용해야 한다. 이는 AI의 문제점을 AI가 스스로 검증하고 고치기 위한 시스템을 의미한다.

문서 속 정책에서 코드로 구현된 정책으로

과거 IT 거버넌스는 사후 대응만 가능한 ‘체크리스트’ 방식이었다. 그러나 오늘날 기업은 정책을 코드로 구현하는 ‘PaC(Policy as Code)’로의 전환이 필요하다.

• 전전두엽 역할: 에이전트 헌법은 자율 시스템 기계가 읽을 수 있는 기본 원칙 집합이다.
• 운영 경계: 에이전트가 수행할 수 있는 작업 범위와 절대 넘지 말아야 할 윤리적 한계를 규정한다.
• 실행 가능한 규칙: 코드로 구현된 강제 규칙의 예로는 ‘피크 시간대에는 인간 개입 토큰 없이는 운영 데이터베이스를 수정하지 않는다’와 같은 원칙이 있다.
• LLM 이해 가능성: 이러한 규칙은 실행 가능하며, 오케스트레이션을 담당하는 LLM이 이해하고 활용할 수 있다.

이런 전환은 근본적인 변화를 의미한다. IT 전문가의 역할은 ‘운영자’에서 ‘의도 설계자’로 변화하고 있다. IT 직원은 더 이상 시스템을 직접 조작하는 사람이 아니라, 자율 시스템이 따라야 할 행동 규칙을 설계하는 주체가 되고 있다.

IT 운영을 위한 자율성 계층 구조

기업이 ‘킬 스위치’에 대한 통제권을 유지하면서 AI 역량을 확장하려면, ‘자율성의 계층 구조’에 초점을 맞출 필요가 있다. 이는 1978년 연구자 토머스 셰리던와 윌리엄 버플랭크의 기초 연구에서 제시된 프레임워크에 기반한 개념이다.

1단계: 완전 자율화 영역(가장 쉽게 도입할 수 있는 영역)

• 이는 사람이 개입하는 비용이 해당 작업의 가치보다 더 큰 업무를 의미한다.
• 사례
  • 자동 확장
  • 로그 로테이션
  • 기본 티켓 라우팅
  • 캐시 정리
• 거버넌스: 사전에 정의된 임계값 조건에 따라 동작하는 통제된 자동화 영역(sandbox of trust)에서 관리된다.

2단계: 감독형 자율화 영역(사전 확인 구간)

• 에이전트가 데이터 수집과 문제 원인 분석, 해결 방안 도출 등 핵심 작업을 수행하지만, 최종 실행 단계에서는 사람의 승인, 즉 확인 절차가 필요한 단계다.
• 사례
  • 시스템 패치
  • 사용자 계정 프로비저닝
  • 비중요 설정 변경
• 거버넌스: 에이전트는 해당 조치를 왜 수행하려는지에 대한 판단 근거, 즉 추론 과정을 관리자에게 제시해야 한다.

3단계: 사람 전용 영역

• 어떤 상황에서도 에이전트가 자율적으로 수행해서는 안 되는, 시스템의 존립과 직결된 핵심 작업을 의미한다.
• 사례
  • 데이터베이스 삭제
  • 핵심 보안 설정 우회
  • 에이전트 헌법 자체에 대한 수정
• 거버넌스: 다단계 인증(MFA) 또는 복수 인원의 이중 승인과 같은 강력한 통제 절차를 적용한다.

숨겨진 공격 표면 줄이기

중앙화된 헌법 체계를 구현하면, 중앙 IT의 관리 및 감독 없이 배포되는 섀도우 AI 에이전트로 인한 리스크를 완화할 수 있다.

• 통합 API: 모든 에이전트는 핵심 인프라와 상호작용하기 전에 해당 운영 원칙 체계에 따라 인증을 거쳐야 한다.
• 컴플라이언스 이력: 이를 통해 SOC2나 EU AI 법과 같은 규제 대응에 활용할 수 있는 중앙화된 감사 이력이 생성된다.
• 검증 가능한 의사결정: 자율적으로 내려진 판단과 실행에 대한 검증 가능한 기록을 축적할 수 있다.

기계 중심 세계 속 사람의 목소리

이른바 ‘헌법’은 코드가 아니라, 엔지니어의 경험과 판단이 집약된 사람의 문서다. 따라서 사람의 역할은 여전히 중요하다.

• 의도 설계자: IT 전문가의 역할은 ‘운영자’에서 ‘의도의 설계자’로 변화하고 있다.
• 문화적 전환: IT 팀은 개인이 나서서 문제를 해결하는 방식에서 벗어나, 시스템 중심의 거버넌스 문화로 전환해야 한다.

‘헌법 제정 회의’를 시작할 때

2020년대 후반에도 PDF 형식의 기존 SOP에 의존한다면, IT 운영은 비즈니스의 발목을 잡는 병목으로 전락할 가능성이 크다.

지금 바로 취해야 할 단계는 다음과 같다.

• 레드라인 정의: 수석 아키텍트를 중심으로 3단계 영역의 경계를 명확히 설정한다.
• 자동화 성과 도출: 즉시 자동화가 가능한 1단계 업무를 식별한다.
• 전략에 집중: 사람은 봇을 감시하는 데 시간을 쓰는 대신, 전략과 혁신에 집중하도록 방향을 전환한다.

dl-ciokorea@foundryco.com

오픈소스 컬럼 기반 데이터베이스 기업인 클릭하우스(ClickHouse)가 오픈소스 LLM 엔지니어링 플랫폼 랭퓨즈(Langfuse)를 인수한다고 발표했다. 이로써 온라인 분석 처리와 AI 애플리케이션을 위해 설계된 자사 데이터베이스 서비스에 옵저버빌리티(observability) 기능을 추가했다.

분석가들은 많은 기업이 LLM 기반 애플리케이션을 실제 운영 환경으로 이전하려는 상황에서, 클릭하우스가 이번 거래를 통해 보다 완성도 높은 데이터·AI 플랫폼으로 도약하려고 한다고 평가했다.

HFS리서치의 애소시에이트 프랙티스 리더 악샤트 티아기는 프롬프트 추적, 모델 평가, 비용 및 지연 시간 추적 등 랭퓨즈의 옵저버빌리티 기술이 클릭하우스의 핵심 강점인 고성능 분석 역량을 직접적으로 보완한다고 진단했다.

티아기는 클릭하우스가 랭퓨즈를 인수함으로써 별도의 관측 도구에 의존하지 않고도 대규모 LLM 텔레메트리를 운영 및 비즈니스 데이터와 함께 수집·저장·분석할 수 있는 네이티브 방식을 고객에게 제공할 수 있게 됐다고 설명했다. 이를 통해 팀은 모델 디버깅 속도를 높이고 비용을 통제하는 한편, 보다 신뢰할 수 있는 AI 워크로드를 운영할 수 있다는 것이다.

그레이하운드리서치의 수석 애널리스트 산칫 비르 고기아는 클릭하우스가 기업 환경에서 생성형 AI가 실제로 한계에 부딪히는 지점에 대응하고 있다고 분석했다. 고기아는 “대부분의 기업은 AI 기능을 구축하지 못해서 실패하는 것이 아니라, 이를 설명하지 못하고 신뢰하지 못하며 비용을 감당하지 못하고 있다. 모델은 드리프트를 일으키고 비용은 급증하지만, 비즈니스 사용자는 의사결정이 정당한지 판단하기 어렵다. 클릭하우스는 바로 이 사각지대를 정확히 공략하고 있다”라고 평가했다.

또한 고기아는 “랭퓨즈를 내부에 두면서 클릭하우스가 모든 LLM 호출을 구조화되고 질의 가능한 기록으로 전환할 수 있는 도구를 갖추게 됐다”라고 말했다.

산업 전반의 변화

분석가들은 이번 인수가 데이터 웨어하우스와 데이터베이스 벤더 전반에서 AI 피드백 루프의 주도권을 확보하려는 흐름이 확산되고 있음을 보여준다고 분석했다.

에베레스트그룹의 애널리스트 이시 타쿠르는 기업이 파일럿 단계를 넘어 실제 운영 환경으로 이전하려는 과정에서, 벤더가 주로 분석용 기록 시스템 역할에 머물던 위치에서 벗어나 운영 워크플로를 지원하는 ‘실행 시스템’으로, 스택 상단으로 이동하고 있다고 설명했다.

티아기 역시 데이터 웨어하우스와 데이터베이스 벤더가 ‘AI를 만들 수 있는가’라는 질문에서 ‘AI를 안전하고 예측 가능하게, 대규모로 운영할 수 있는가’라는 단계로 인식을 전환하고 있다고 진단했다.

같은 맥락에서 타쿠르는 스노우플레이크(Snowflake)가 옵저브(Observe)를 인수한 사례와 이번 거래를 비교해 설명했다. 그는 두 인수 사례가 선도적인 데이터 플랫폼 전반에서 공통된 전략적 방향을 보여준다고 평가했다. 확장 가능한 텔레메트리 저장소에 통합된 옵저버빌리티 경험을 결합해, 운영 분석 영역에서 증가하는 지출을 더 많이 확보하려는 움직임이라는 설명이다.

고기아도 이에 동의하며, 클릭하우스의 랭퓨즈 인수가 사용자 기반 확장에도 기여할 것이라고 분석했다. 그는 “그동안 클릭하우스는 주로 분석과 인프라 팀을 중심으로 활용돼 왔다. 랭퓨즈를 통해 AI 엔지니어링, 프롬프트 운영, 제품 책임자, 나아가 리스크 및 컴플라이언스 팀까지 즉각적인 관련성을 확보하게 된다. 이는 매우 큰 사용자층 확대”라고 설명했다.

한편 데이터브릭스를 비롯한 다른 경쟁사들 역시 옵저버빌리티 기능을 제공하고 있다.

기존 랭퓨즈 고객에 대한 지원 지속

이번 거래는 클릭하우스의 전략적 강화뿐 아니라 기존 랭퓨즈 고객에게도 긍정적인 효과를 가져올 것으로 전망된다.

양사는 랭퓨즈 포털에 게시한 공지를 통해 클릭하우스가 랭퓨즈를 오픈소스 프로젝트로 계속 지원하고, 기존 사용자에 대한 연속성을 유지하는 한편 클릭하우스의 분석 엔진과 관리형 서비스와의 보다 긴밀한 통합을 통해 플랫폼을 단계적으로 고도화할 계획이라고 밝혔다.

이미 랭퓨즈를 운영 환경에서 사용 중인 기업의 경우, 이번 인수를 통해 기존 워크플로에 급격한 변화를 요구받지 않으면서도 장기적인 안정성과 확장성을 확보할 수 있을 것으로 회사 측은 내다봤다.

랭퓨즈는 2023년 클레멘스 라베르트, 막스 다이히만, 마르크 클링겐이 설립한 스타트업으로, 라이트스피드벤처스, 제너럴캐털리스트, 와이콤비네이터의 투자를 받았다. 현재 13명 규모의 팀을 보유하고 있으며, 마케팅과 영업을 전담하는 두 번째 사무소를 샌프란시스코에 두고 있다.
dl-ciokorea@foundryco.com

우동 브랜드 마루가메제면 등을 운영하는 일본 외식 기업 트리도르홀딩스는 글로벌 시장 확장을 목표로 디지털과 IT 기반의 경영 혁신에 속도를 내고 있다. 이 과정에서 시스템 전면 현대화와 조직 개편, SaaS·AI 활용까지 직접 이끌어 온 CIO 이소무라 야스노리(磯村康典)가 벤더 경험과 경영 시각을 바탕으로 변화에 강한 기업 기반을 구축하는 전략과 철학을 제시했다.

Q(CIO재팬) : 지금까지의 경력에 대해 설명해 달라.
A(이소무라 야스노리) : 커리어는 후지쓰에서 시작했다. 약 7년 동안 주로 공공 부문 시스템을 담당하는 시스템 엔지니어로 일하며 현장에서 기술 역량을 다져왔다.

이후 2000년 소프트뱅크(현 소프트뱅크그룹)로 이직했다. 당시 손정의 회장이 “앞으로는 인터넷 시대”라고 강조하던 시기로, 사내에서는 인터넷 관련 벤처가 잇따라 출범하고 있었다. 그중 하나가 전자상거래 사업으로, 현재의 세븐넷쇼핑이다. 나는 시스템 책임자로 사업 출범에 참여해 약 8년 동안 사업 성장을 뒷받침하는 역할을 맡았다.

다음으로 도전한 곳은 외식 IT 벤처 갈프넷이다. 트리도르홀딩스를 비롯한 주요 외식 체인을 고객으로 둔 회사로, 이곳에서 4년 동안 개발 책임자로 시스템을 이끌었을 뿐 아니라 영업 책임자 역할도 경험했다. 기술뿐 아니라 비즈니스 현장을 직접 움직이는 어려움과 재미를 체감할 수 있었던 점은 큰 수확이었다.

이후 투자회사 오크캐피탈(현 UNIVA·오크홀딩스)로 자리를 옮겨 약 8년간 투자 기업에 핸즈온으로 관여했다. 경영 재건과 기업 가치 제고를 추진했고, 경우에 따라서는 직접 대표이사를 맡는 등 경영 전반에 깊이 관여하는 경험을 쌓았다. 이 시기에 형성된 ‘사업을 어떻게 재정비하고 성장으로 이끌 것인가’라는 관점은 지금의 중요한 자산이 되고 있다.

그리고 2019년 트리도르홀딩스 CIO로 부임했다. 어느덧 6년이 지난 현재, 벤더로서 축적한 지식과 사업회사에서의 경험, 경영자로서의 시각을 모두 활용해 사업 성장을 견인하는 CIO로서 도전을 이어가고 있다.

Q : 지금까지의 경력 가운데 특히 인상에 남는 일은 무엇인가.
A : 돌아보면 각 업종과 역할마다 큰 도전이 있었다. 처음 SI 업무를 맡았을 때는 얼마나 큰 규모의 프로젝트를 운영할 수 있는지가 성장의 기준이었다. 당시 20대에 800인월(人月, 여러 인력이 수개월 이상 투입돼, 인력 수×투입 개월 수를 합산하면 800에 이르는) 규모의 프로젝트를 맡았는데, 지금 생각해 보면 젊은 시절에 상당히 큰 책임을 맡길 만큼 기회를 주던 회사였다고 느낀다.

소프트뱅크에서는 처음으로 ‘비즈니스를 만든다’는 일에 도전했다. 담당한 것은 현재의 세븐넷쇼핑으로 이어지는 전자상거래 사업이다. 매출이 전혀 없는 상태에서 출발해, 시스템 책임자로서 사업이 약 200억 엔 규모로 성장하는 과정을 뒷받침했다. 단순한 시스템 개발이 아니라, 비즈니스 성장과 직접적으로 연결된 경험이었다는 점에서 커리어 전반에 매우 큰 의미를 남겼다.

현직인 트리도르홀딩스 CIO로서 처음 맡은 큰 과제는 전사 시스템의 전면적인 현대화였다. 부임 이후 약 6년에 걸쳐 추진해 왔고, 이제 모든 교체 작업이 마무리 단계에 이르고 있다.

당초에는 3년 내 완료를 목표로 했지만, 사내 사정과 기존 구조를 세심하게 고려하며 진행할 필요가 있었다. 그 결과, 속도보다 완성도를 택해 시간이 걸리더라도 확실히 끝내는 방향으로 추진하게 됐다.

프로젝트의 출발점은 ‘시스템이 몇 개나 있는지를 파악하는 것’이었다. 처음 점검했을 때 약 180개의 시스템이 존재했고, 이후 업무 목적에 따라 재정리하며 통합을 진행했다. 그 결과 현재는 약 40개 수준까지 대폭 줄일 수 있었다.

이 과정을 돌아보면, 시스템 자산 정리부터 현대화까지 전 과정을 직접 이끌어 온 경험은 CIO로서 가장 처음에 도전하기에 걸맞은 과제였다고 생각한다.

Q : 가장 어려웠던 경험은 무엇인가.
A : 가장 신경을 많이 쓴 일은 트리도르홀딩스에서 추진한 업무 조직 개편이었다. 구체적으로는 트리도르그룹의 본사 업무를 지주회사와 쉐어드서비스 회사(그룹 공통 관리·운영 업무를 통합 수행하는 조직)로 역할을 나눠 재구성했다. 이후 회계·인사·IT 운영 등 반복적인 관리 업무를 내부 조직이 아닌 외부 전문 위탁업체(Business Process Outsourcing, BPO)에 맡기는 방식으로 운영 구조를 바꿨다.

사내에서 수행하던 업무를 외부로 옮기는 과정은 대담하면서도 매우 섬세한 조정이 필요한 프로젝트였다. 우선 IT 부문부터 착수했는데, 이 과정이 가장 어려웠다.

당시 나는 쉐어드서비스 회사의 대표를 겸임하며 최대 약 180명의 인력을 이끌고 있었다. 이 조직에는 IT 운영팀뿐 아니라 회계 기장을 담당하는 재무 조직, 급여 계산을 맡은 인사 조직 등 이른바 오퍼레이션 기능이 집약돼 있었다. 전략 수립은 지주회사가 맡고, 일상적인 오퍼레이션은 하나로 묶어 관리하는 체제를 갖추고 있었으며, 이 가운데 일부 업무를 단계적으로 분리해 외부로 이전하는 것이 당시 맡은 역할이었다.

당연히 기존 업무를 수행하던 인력의 다음 커리어를 어떻게 설계할지가 큰 과제가 됐다. 트리도르는 효고현 가코가와시에서 창업해 이후 고베시에 본사를 두고 있었고, 당시 쉐어드서비스 회사의 거점 역시 고베에 있었다.

시부야 본사로 이동이 가능한 인력에게는 지주회사 업무를 제안했지만, 가정 사정 등으로 전근이 어려운 경우도 적지 않았다. 이런 경우에는 BPO 벤더로 전적해 기존과 같은 업무를 이어가도록 하거나, 트리도르그룹 매장으로 활동 무대를 옮기는 방안을 제시했다. 나는 구성원 한 사람 한 사람과 면담을 거듭하며 다음 진로를 함께 결정해 나갔다.

물론 이 과정은 혼자서 감당할 수 있는 일이 아니었다. 부장과 관리직의 협조를 얻어 직원들과 진지하게 대화를 이어가며 추진했다. 최종적인 목표는 각자가 새로운 환경에서도 장기간 역량을 발휘할 수 있도록 하는 것이었다. 회사 차원의 방침은 분명했지만, 최대한 구성원들이 납득할 수 있는 결론에 이르는 것이 당시 스스로에게 주어진 가장 큰 책임이었다고 본다.

Q : 특히 기억에 남는 말이나 사건이 있는가.
A : 크게 두 가지가 있다. 첫 번째는 세븐넷쇼핑 출범에 관여하던 시기의 경험이다. 당시 세븐&아이홀딩스 회장이었던 스즈키 도시후미의 말을, 당시 상사이자 회장의 아들인 스즈키 야스히로로부터 전해 들은 적이 있다.

한 번은 “사람들 앞에서 이야기할 때 어떻게 하면 긴장하지 않을 수 있느냐”고 물었는데, “무리해서 잘난 척하지 말고, 모르는 것은 이야기하지 않으며, 알고 있는 것만 말하면 긴장하지 않는다”는 답을 들었다. 모르는 것은 모른다고 말하면 된다는 이야기였다. 있는 그대로, 과장하지 않고 말하는 사람이야말로 결국 성과를 만들어 간다는 점을 강하게 느꼈다.

두 번째는 같은 시기, 세븐넷쇼핑이 야후의 자회사 사업이었을 때의 경험이다. 당시에는 인터넷이 아직 본격적인 비즈니스로 자리 잡기 전이었고, 일본에서는 야후가 앞서 있었으며 구글이 막 진입하던 시기였다.

이용자가 급증하면서 서버가 혼잡해지고 시스템이 한계에 부딪히는 상황이 자주 발생했는데, 그때 당시 야후 대표였던 이노우에 마사히로로부터 “인터넷 비즈니스에서는 사용자가 늘어나면 서버를 증설하는 것이 기본 원칙”이라는 말을 들었다. 그 한마디에 큰 깨달음을 얻었다.

기존 엔터프라이즈 환경에서는 값비싼 자원을 어떻게 최적화해 끝까지 활용할 것인가가 기본적인 사고방식이었다. 나는 역시 제한된 자원을 효율적으로 쓰는 것이 당연하다고 여겨 왔다.

하지만 인터넷의 세계에서는 저렴한 서버를 추가해 확장하는 것이 자연스러운 선택이었다. 투자를 전제로 한 스케일아웃 문화가 뿌리내려 있었고, 추가 투자가 불가능하다면 인터넷 비즈니스 자체가 성립하지 않는다는 인식이 자리 잡고 있었다.

이러한 사고방식의 차이는 매우 충격적이었다. 엔터프라이즈 기술과 인터넷 기술 사이의 본질적인 차이를 분명하게 체감한 순간이었고, 그 간극은 지금도 완전히 메워지지 않은 채 남아 있다고 느끼고 있다.

Q : CIO로서 어떨 때 보람을 느끼는가.
A: 회사의 방향성을 빠르게 실현할 수 있는 기반을 마련할 때 CIO로서의 보람을 느낀다. 그런 면에서 트리도르의 목표는 고객에게 감동적인 경험을 제공하는 것이다. 그 최전선에는 매장에서 일하는 직원과 이를 뒷받침하는 매니지먼트가 있다. 다만 사람의 힘에만 의존하는 데에는 한계가 있기 때문에, 이들을 뒤에서 어떻게 지원할지가 중요하다. 변화에 신속히 대응할 수 있는 비즈니스 기반을 갖추는 것이야말로 CIO로서의 가장 큰 보람이다.

IT 부서가 자체 논리만으로 움직여서는 의미가 없다. 중요한 것은 IT가 비즈니스에 얼마나 기여하고 있는지, 그리고 변화에 얼마나 유연하게 대응할 수 있는 기반을 구축했는지다.

예를 들어 사업 확장을 고민할 때는 업태가 늘어날 경우 하나의 구조로 대응할지, 여러 구조를 조합할지에 대한 설계 판단이 필요하다. 서버를 늘릴 것인지, 한 대를 대형화할 것인지와 같은 스케일아웃과 스케일업 선택도 마찬가지다. 이런 아키텍처를 검토하는 과정 자체가 매우 흥미로운 영역이다.

또 지금처럼 변화가 잦은 시대에는 경영진이 기존 방침을 바꾸는 일도 발생한다. 이때 대규모 투자를 이유로 시스템을 포기하지 못하는 상황은 바람직하지 않다. 그래서 가능한 한 구독형 서비스, 즉 SaaS를 적극 활용하고 있다. 특히 유연성이 요구되는 백오피스 영역은 SaaS를 조합하는 편이 리스크를 줄일 수 있다.

이러한 판단을 뒷받침하는 것은 엔지니어로서의 경험과 사업 경영에 직접 관여했던 경험이다. 기술을 충분히 이해하지 못하면 최적의 선택을 할 수 없고, 경영 관점이 없으면 비즈니스를 어떻게 지원할지에 대한 답도 나오지 않는다. 이 두 가지를 함께 활용해 사고할 수 있다는 점이 CIO 역할의 가장 큰 즐거움이다.

사실 IT 벤더 시절부터 앞으로는 SaaS가 필수가 될 것이라고 생각해 왔다. 당시에는 제안하더라도 사용자 기업이 채택하지 않으면 실행으로 이어지지 않았지만, CIO가 된 이후에는 스스로 결정해 실행할 수 있다는 점을 실감했다. 이는 매우 큰 차이이며, 사업회사로 자리를 옮겼기에 가능해진 도전이다.

트리도르그룹은 변화를 두려워하지 않고 진화를 거듭해 온 기업이다. 그 덕분에 급성장을 이뤘고, 격변하는 환경 속에서도 대응해 올 수 있었다. 이 강점은 반드시 지켜야 한다고 보고, 시스템 기반을 전면적으로 SaaS 중심으로 전환하는 작업을 추진해 왔다.

SaaS 벤더의 제품 뒤에는 수많은 뛰어난 엔지니어가 존재한다. 관점에 따라서는 이들이 모두 회사를 뒷받침하는 외부 인력이라고도 볼 수 있다. 자사 역량에만 의존하지 않고 외부의 힘을 어떻게 조합할지 설계하는 것, 그것이 CIO의 역할이며 나에게 가장 큰 보람이다.

Q : AI 활용에 대해서는 어떻게 보고 있는가.
A: 최근 생성형 AI에 대한 관심이 높아지고 있지만, 트리도르그룹이 집중하고 있는 것은 현장의 생산성을 높이는 AI 활용이다. 생성형 AI는 화이트칼라 업무의 효율화에는 효과적이다. 다만 사업과 직접 맞닿아 있는 현장 업무에서는 즉시 실행 가능하고 실효성이 분명한 AI 활용이 필요한 것 같다.

그 대표적인 사례가 수요 예측이다. 매출과 방문객 수를 AI로 예측함으로써 다음 날 필요한 인력 규모나 식자재 발주량을 보다 효율적으로 산정할 수 있다. 이를 통해 매장 운영 계획이 한층 수월해졌고, 현장의 부담도 크게 줄었다.

또 하나는 얼굴 인식을 활용한 근태 관리다. 트리도르그룹에는 파트타임과 아르바이트 직원이 많아 출퇴근 기록 관리가 중요한 과제였다. 기존의 지문이나 정맥 인식 방식은 물을 자주 사용하는 환경이나 추운 날씨로 인해 예외가 발생하는 경우가 많았지만, 얼굴 인식으로 전환한 이후에는 예외가 거의 발생하지 않고 있다. 인식 속도도 빠르고 마스크를 착용한 상태에서도 즉시 인식할 수 있어, 현장에서는 근태 관리가 훨씬 수월해졌다는 반응이 나온다.

화려해 보이는 기술은 아닐지 모르지만, 이런 접근이 현장의 생산성을 꾸준히 끌어올리고 있다. 이것이 트리도르그룹이 지향하는 AI 활용의 본질이라고 본다.

Q : CIO에게 필요한 자질은 무엇이라고 보는가.
A : 가장 중요하다고 생각하는 것은 ‘각오’다. 물론 한 번 정한 일을 끝까지 해내는 것도 중요하지만, 그에 앞서 무엇을 목표로 하는지 분명히 제시해야 한다. 미래의 모습을 그린 뒤 “이 방향으로 회사를 이끌겠다”고 선언하는 것 자체가 CIO에게는 각오의 표현이라고 본다.

나 역시 DX 비전을 외부에 공개하면서 “이제는 반드시 해내야 한다”는 결심이 섰다. 그렇게 해야 직원과 벤더 모두가 트리도르그룹이 어떤 모습을 지향하는지 이해하고, 같은 방향을 바라보게 된다. 이는 매우 큰 의미를 가진다.

CIO에게는 목표로 하는 모습을 하나의 그림으로 제시하고, 그 비전을 향해 흔들림 없이 나아가는 추진력이 필요하다. 이때 중요한 것이 백캐스트(backcast) 사고, 즉 최종 목표에 도달하기 위해 지금 무엇을 해야 하는지를 거꾸로 계산해 나가는 방식이다. 포어캐스트(forecast) 방식, 다시 말해 현재 상태를 출발점으로 삼아 과제를 하나씩 해결하는 방식만으로는 새로운 가치를 만들어내기 어렵다.

물론 일정 수준의 안정기에 들어서면 포어캐스트 방식의 개선으로 충분한 경우도 있다. 하지만 큰 변화를 만들어야 할 때는 백캐스트 관점에서 과감하게 방향과 경로를 그려야 한다.

그리고 그 과정에서 예상과 현실 사이에 큰 간극이 생긴다면, “이건 아니다”라고 판단하고 과감하게 방향을 전환할 수 있는 결단력까지 갖추는 것, 이것이 CIO에게 요구되는 핵심 자질이라고 본다.

Q : CIO를 꿈꾸는 직원에게 필요한 역량은 무엇인가.
A : 나는 팀원들에게 늘 “장차 CIO나 CTO, 혹은 CDO 같은 역할을 맡을 수 있는 인재로 성장하길 바란다”고 이야기하고 있다. 일본에는 아직 그런 인재가 충분히 많지 않다. 그렇기 때문에 디지털을 비즈니스와 연결하는 가교 역할을 할 수 있는 사람을 더 늘려야 한다고 본다. 젊은 시절부터 이 역할을 목표로 커리어를 쌓아 가길 바란다.

이를 위해 필요한 역량은 크게 세 가지다. 첫 번째는 기초적인 기술 역량이다. 코드를 직접 작성하지 않는 IT 리더도 있지만, 할 수 있다면 그 편이 훨씬 낫다. 나 역시 중학생 때부터 코드를 써 왔다. 프로그래밍 언어도 하나만 아는 것보다 두 가지 이상을 익히면 비교가 가능해지고 이해의 깊이도 달라진다. 이는 이직을 통해 새로운 시야가 열리는 것과 비슷하며, 여러 관점을 갖는 것이 중요하다고 생각한다.

두 번째는 아키텍트로서의 역량이다. 사용자 기업의 CIO는 기존 기술을 어떻게 조합해 자사 비즈니스에 가장 적합한 구조를 만들 것인지를 끊임없이 고민해야 한다. CTO의 역할과 맞닿아 있는 부분도 있지만, 네트워크나 인프라, 클라우드 같은 기초를 이해하지 못하면 최적의 조합을 판단할 수 없다. 시스템 아키텍트로서의 지식과 사고는 필수적이다.

마지막은 커뮤니케이션 역량이다. 프로젝트가 실패하는 이유는 기술 부족보다 소통 부족에서 비롯되는 경우가 훨씬 많다. 나는 평소 일대일 대화를 자주 하는데, 대화 상대는 대표부터 그룹사 임원, 사업회사 경영진까지 다양하다. 이들이 무엇을 하고 싶은지 이해하지 못하면 장기적인 관점의 시스템 설계는 불가능하고, 신뢰할 수 있는 조언자가 되지 못하면 성과도 나오기 어렵다. 이런 역량은 나뿐 아니라 부장급 구성원에게도 요구하고 있다.

기초적인 기술 역량, 아키텍트로서의 설계 역량, 그리고 커뮤니케이션 역량. 이 세 가지는 CIO를 목표로 할 때 반드시 갖춰야 할 자질이다. 특히 B2B 기업일수록 파트너 기업과의 관계가 중요하기 때문에, 젊은 시절부터 이를 강하게 의식하길 권하고 싶다.

Q : 앞으로의 목표는?
A: 우리는 ‘글로벌 푸드 컴퍼니’를 기업 비전으로 내세우고 있다. 목표는 유명한 햄버거 체인이나 커피 체인과 어깨를 나란히 하는, 일본 최초의 ‘세계에서 통하는 외식 기업’이 되는 것이다.

트리도르그룹은 이미 30개국 이상에 진출해 있지만, 모든 국가에서 일본과 동일한 품질을 구현하고 있느냐고 하면 아직 과제가 남아 있다. 이 수준을 어떻게 끌어올릴지가 앞으로의 큰 과제다. 디지털의 힘으로 기준을 맞추고, 새로운 국가로도 보다 쉽게 확장할 수 있는 환경을 만드는 것이 사업 가속으로 이어진다고 본다.

지금까지는 일본 시장에 집중해 왔지만, 앞으로는 글로벌 자회사와 프랜차이즈 파트너에 대해서도 보다 적극적으로 지원해 나갈 생각이다.

물론 모든 것을 일률적인 구조로 적용하는 것은 현실적이지 않다. 제조업처럼 전 세계에 동일한 시스템을 적용하는 방식도 있지만, 외식 산업은 현지 소비자가 실제로 먹어야 가치가 생긴다. 일정한 자율성을 유지하면서도, 트리도르그룹으로서 반드시 지켜야 할 기준을 어떻게 정착시킬지가 중요하다.

이 과정에서 효과적인 수단이 디지털 기반이다. 기준을 시스템에 녹여 두면, 의식하지 않아도 자연스럽게 품질과 운영 기준이 유지된다. 이런 구조를 앞으로 더 늘려 가고자 한다.

다만 과도하게 적용하면 ‘손으로 만들고 갓 조리한다’는 우리의 운영 철학이 약해질 위험도 있다. 그 균형을 어디에 둘 것인지는 쉽지 않은 과제지만, 오히려 그 지점에 재미가 있다고 느낀다.

본사 경영진과 각 사업 책임자들과 지속적으로 논의하며, 각 지역에 맞는 최적의 균형점을 찾아가는 작업을 전 세계로 확대해 나가고 싶다.
dl-ciokorea@foundryco.com

*이 기사는 CIO 재팬에 게재된 원문을 바탕으로 재구성한 것입니다. 원문은 여기서 확인할 수 있습니다.

CIO의 ‘희망 목록’은 늘 길고 비용도 많이 든다. 하지만 우선순위를 합리적으로 세우면, 팀과 예산을 소진하지 않으면서도 급변하는 요구에 대응할 수 있다.

특히 2026년에는 IT 운영을 ‘비용 센터’가 아니라 손익 관점에서 재정의하면서, 기술로 비즈니스를 재창조하는 접근이 필요하다. 액센추어(Accenture)의 기술 전략·자문 글로벌 리드 코엔라트 셸포트는 “최소한의 투자로 ‘불만 꺼지지 않게 유지’하는 데서 벗어나, 기술로 매출 성장을 견인하고 새로운 디지털 제품을 만들며, 새 비즈니스 모델을 더 빠르게 시장에 내놓는 쪽으로 초점을 옮겨야 한다”라고 권고했다.

다음은 CIO가 2026년에 우선순위 상단에 올려야 할 10가지 핵심 과제다.

1. 사이버 보안 회복탄력성과 데이터 프라이버시 강화

기업이 생성형 AI와 에이전틱 AI를 핵심 워크플로우 깊숙이 통합하면서, 공격자 역시 같은 AI 기술로 워크플로우를 교란하고 지식재산(IP)과 민감 데이터를 노릴 가능성이 커졌다. 소비자 신용평가 기업 트랜스유니언(TransUnion)의 글로벌 제품 플랫폼 담당 수석부사장 요게시 조시는 “그 결과 CIO와 CISO는 나쁜 행위자들이 동일한 AI 기술을 활용해 워크플로우를 방해하고, 고객 민감 데이터와 경쟁우위에 해당하는 정보·자산을 포함한 IP를 탈취하려 할 것임을 예상해야 한다”라고 지적했다.

조시는 디지털 전환 가속과 AI 통합 확대로 리스크 환경이 크게 넓어질 것으로 보고, 2026년 최우선 과제로 ‘보안 회복탄력성’과 ‘데이터 프라이버시’를 꼽았다. 특히, “민감 데이터 보호와 글로벌 규제 준수는 협상 대상이 아니다”라고 강조했다.

2. 보안 도구 통합

AI의 효과를 제대로 끌어내려면 기반을 다시 다져야 한다는 주장도 있다. 딜로이트의 미국 사이버 플랫폼 및 기술·미디어·통신(TMT) 산업 리더 아룬 페린콜람은 “필수 조건 중 하나는 파편화된 보안 도구를 통합·연동된 사이버 기술 플랫폼으로 묶는 것인데, 이를 ‘플랫폼화(platformization)’라고 부른다”라고 설명했다.

페린콜람은 통합은 보안을 ‘여러 포인트 솔루션의 누더기’에서 빠른 혁신과 확장 가능한 AI 중심 운영을 위한 민첩하고 확장된 기반으로 바꿀 것이라며, “위협이 정교해질수록 통합 플랫폼이 중요해지며, 도구 난립을 방치하면 오히려 분절된 보안 태세가 공격자에게 유리하게 작동해 위험이 커진다”라고 지적했다. 또 “기업은 날로 증가하는 위협에 직면할 것이며, 이를 관리하기 위해 보안 도구가 무분별하게 확산될 것이다. 공격자가 이렇게 파편화된 보안 태세를 악용할 수 있으므로, 플랫폼화를 늦추면 위험만 증폭될 것”이라고 덧붙였다.

3. 데이터 보호 ‘기본기’ 재점검

조직이 효율·속도·혁신을 위해 새로운 AI 모델 도입 경쟁에 나서고 있지만, 민감 데이터 보호를 위한 기본 단계조차 놓치는 경우가 적지 않다는 경고도 나온다. 데이터 프라이버시·보존 전문업체 도노마 소프트웨어(Donoma Software)의 최고전략책임자 파커 피어슨은 “새 AI 기술을 풀기 전에 민감 데이터를 보호하기 위한 기본 조치를 하지 않는 조직이 많다”라며 2026년에는 “데이터 프라이버시를 긴급 과제로 봐야 한다”라고 강조했다.

피어슨은 데이터 수집·사용·보호 이슈가 초기 학습부터 운영까지 AI 라이프사이클 전반에서 발생한다고 설명했다. 또 많은 기업이 “AI를 무시해 경쟁에서 뒤처지거나 민감 데이터를 노출할 수 있는 LLM을 도입하는 두 가지 나쁜 선택지 사이에 놓여 있다”라고 진단했다.

핵심은 ‘AI를 할 것인가’가 아니라 ‘민감 데이터를 위험에 빠뜨리지 않으면서 AI 가치를 최적화하는 방법’이다. 피어슨은 특히 “데이터가 ‘완전히’ 또는 ‘엔드 투 엔드’로 암호화돼 있다”는 조직의 자신감과 달리, 실제로는 사용 중 데이터까지 포함해 모든 상태에서 연속적으로 보호하는 체계가 필요하다고 주장했다. 프라이버시 강화 기술을 지금 도입하면 이후 AI 모델 적용에서도 데이터 구조화·보안이 선행돼 학습 효율이 좋아지고, 재학습에 따른 비용·리스크도 줄일 수 있다는 설명이다.

4. 팀 정체성과 경험에 집중

2026년 CIO 과제로 ‘기업 정체성’과 직원 경험을 재정비해야 한다는 목소리도 있다. IT 보안 소프트웨어 업체 넷위릭스(Netwrix)의 CIO 마이클 웻젤은 “정체성은 사람들이 조직에 합류하고 협업하고 기여하는 기반”이라며, “정체성과 직원 경험을 제대로 잡으면 보안, 생산성, 도입 등 다른 모든 것이 자연스럽게 따라온다”라고 말했다.

웻젤은 직원들이 직장에서 ‘소비자급’ 경험을 기대한다고 진단했다. 내부 기술이 불편하면 사용하지 않고 우회하게 되며, 그 순간 조직은 보안과 속도를 동시에 잃는다는 지적이다. 반대로 ‘정체성에 뿌리를 둔 매끄러운 경험’을 구축한 기업이 혁신 속도에서 앞서갈 것이라고 내다봤다.

5. 값비싼 ERP 마이그레이션 대응 방안 마련

ERP 마이그레이션은 2026년에도 CIO를 강하게 압박할 전망이다. 인보이스 라이프사이클 관리 소프트웨어 업체 바스웨어(Basware)의 CIO 배럿 쉬위츠는 “예를 들어 SAP S/4HANA 마이그레이션은 복잡하고, 계획보다 길어지면서 비용이 증가하는 경우가 많다”라고 지적했다. 쉬위츠는 업그레이드 비용이 기업 규모와 복잡도에 따라 1억 달러 이상, 많게는 5억 달러까지 뛸 수 있다고 말했다.

또한, ERP가 ‘모든 것을 하려는’ 구조인 만큼, 인보이스 처리처럼 특정 업무를 아주 잘 해내는 데에는 한계가 있다고 말했다. 여기에 수많은 애드온 커스터마이징이 더해지면 리스크가 커진다. 시위츠는 이에 대한 대안으로는 SAP가 강점을 갖는 핵심은 그대로 두고, 주변 기능은 베스트 오브 브리드 도구로 보완하는 ‘클린 코어(clean core)’ 전략을 제시했다.

6. 혁신을 확장할 수 있는 데이터 거버넌스

2026년 혁신을 지속 가능하게 만들려면, 모듈형·확장형 아키텍처와 데이터 전략이 핵심이라는 의견도 나왔다. 컴플라이언스 플랫폼 업체 삼사라(Samsara)의 CIO 스티븐 프란체티는 “혁신이 확장 가능하고 지속 가능하며 안전하게 이뤄지도록 하는 기반을 설계하는 것이 중요한 우선순위 중 하나”라고 말했다.

프란체티는 느슨하게 결합된 API 우선 아키텍처를 구축 중이며, 이를 통해 더 빠르게 움직이고 변화에 유연하게 대응하면서 솔루션 업체와 플랫폼 종속을 피할 수 있다고 설명했다. 워크플로우·도구·AI 에이전트까지 더 역동적으로 바뀌는 환경에서 ‘강하게 결합된 스택’은 확장에 한계가 있다는 판단이다. 또한 데이터는 AI뿐 아니라 비즈니스 인사이트, 규제 대응, 고객 신뢰를 위한 장기 전략 자산이라며, 데이터 품질과 거버넌스, 접근성을 전사적으로 강화하고 있다고 덧붙였다.

7. 인력 전환 가속화

AI 시대 인력 전략은 ‘채용’만으로 해결되지 않는다. 임원 서치·경영 컨설팅 기업 하이드릭 앤 스트러글스(Heidrick & Struggles)의 파트너 스콧 톰슨은 “업스킬링과 리스킬링은 차세대 리더를 키우는 핵심”이라며, “2026년의 기술 리더는 제품 중심의 기술 리더로서, 제품·기술·비즈니스를 사실상 하나로 묶어야 한다”라고 강조했다.

톰슨은 ‘디지털 인재 공장’ 모델을 제안했다. 역량 분류 체계(기술 역량 분류), 역할 기반 학습 경로, 실전 프로젝트 순환을 구조화해 내부에서 인재를 키우는 방식이다. 또한 AI가 활성화된 환경에 맞춰 직무를 재설계하고 자동화로 고도의 전문 노동 의존도를 줄이며, ‘퓨전 팀(fusion teams)’으로 희소 역량을 조직 전반에 확산해야 한다고 설명했다.

8. 팀 커뮤니케이션 고도화

기술 조직에서 불확실성이 커질수록 불안이 확산되고, 그 양상은 개인별로 다르게 나타난다. CompTIA의 최고 기술 에반젤리스트 제임스 스탠저는 “기술 부서에서 불확실성이 미치는 1차 효과는 불안”이라며, “불안은 사람마다 다른 형태로 드러난다”라고 지적했다. 스탠저는 팀원과의 밀착 소통을 강화하고, 더 효과적이고 관련성 높은 교육으로 불안을 관리해야 한다고 제안했다.

9. 민첩성·신뢰·확장성을 위한 역량 강화

AI 자체뿐 아니라, 이를 운영할 수 있는 역량도 2026년 핵심 과제 중 하나다. 보안 솔루션 업체 넷스코프(Netskope)의 CDIO 마이크 앤더슨은 “AI를 넘어 2026년 CIO 우선순위는 민첩성, 신뢰, 확장성을 이끄는 기반 역량을 강화하는 것”이라고 말했다.

앤더슨은 제품 운영 모델(product operating model)이 전통적 소프트웨어 팀을 넘어, IAM, 데이터 플랫폼, 통합 서비스 같은 엔터프라이즈 기반 역량까지 포함하는 형태로 확장될 것이라고 내다봤다. 이때 직원·파트너·고객·서드파티·AI 에이전트 등 ‘인간/비인간 ID’를 모두 지원해야 하며, 최소 권한과 제로 트러스트 원칙을 바탕으로 한 안전하고 적응형 프레임워크가 필요하다고 강조했다.

10. 진화하는 IT 아키텍처

2026년에는 현재의 IT 아키텍처가 AI 에이전트의 자율성을 감당하지 못하는 ‘레거시 모델’이 될 수도 있다. 세일즈포스의 최고 아키텍트 에민 게르바는 “효과적으로 확장하려면 기업은 새로운 에이전틱 엔터프라이즈로 전환해야 한다”라며, 데이터 의미를 통합하는 공유 시맨틱 계층, 중앙화된 지능을 위한 통합 AI/ML 계층, 확장 가능한 에이전트 인력의 라이프사이클을 관리하는 에이전틱 계층, 복잡한 크로스 사일로 워크플로우를 안전하게 관리하는 엔터프라이즈 오케스트레이션 계층 등 4개 계층을 제시했다.

게르바는 이 전환이 “엔드 투 엔드 자동화를 달성한 기업과 에이전트가 애플리케이션 사일로에 갇힌 기업을 가르는 결정적 경쟁력”이 될 것이라고 강조했다.
dl-ciokorea@foundryco.com

2026년을 앞두고 CISO와 끊임없이 진화하는 사이버 공격자 간의 대결이 다시 한 번 격화되는 가운데, 공격자보다 한발 앞서 주도권을 유지하기 위해서는 치밀하게 기획된 강력한 사이버 보안 프로젝트가 효과적인 대응책일 수 있다.

데이터 거버넌스부터 제로 트러스트까지, 향후 1년 동안 모든 CISO가 도입을 검토해볼 만한 핵심 사이버 보안 프로젝트 7가지를 정리했다.

1. AI 시대를 위한 아이덴티티 및 접근 관리 전환

AI와 자동화 기술이 진화하면서 직원의 접근 권한뿐 아니라 AI 에이전트와 머신 프로세스의 아이덴티티까지 관리하는 것이 이제 필수적인 사이버 보안 요소로 자리 잡고 있다. 딜로이트 미국 사이버 아이덴티티 부문 리더인 앤서니 버그는 이러한 변화를 보안의 핵심 과제로 짚었다.

버그는 “특히 에이전틱 AI를 중심으로 한 AI의 빠른 발전이 많은 보안 리더로 하여금 아이덴티티 관리 전략을 다시 생각하게 만들고 있다”라며 “사람과 비인간 아이덴티티를 모두 아우르는 보다 정교한 아이덴티티 거버넌스에 대한 요구가 CISO와 CIO로 하여금 차세대 디지털 전환을 대비한 보안 프레임워크를 재구성하도록 이끌고 있다”라고 설명했다.

그는 생성형 AI와 에이전틱 AI가 새로운 비즈니스 모델과 더 높은 수준의 자율성을 가능하게 하는 만큼, 조직이 아이덴티티 및 접근 관리(IAM) 프로그램을 선제적으로 현대화하는 것이 중요하다고 언급했다. 모든 디지털 아이덴티티 전반의 접근을 보호하는 것은 민감한 데이터 보호와 규제 준수, 운영 효율성 확보를 위해 필수적이라는 설명이다.

버그는 라이프사이클 관리, 강력한 인증, 정밀한 역할 및 정책 기반 접근 제어와 같은 IAM 역량을 고도화하면 비인가 접근을 차단하고 탈취된 자격 증명으로 인한 위험을 줄일 수 있다고 밝혔다.

또한 이러한 통제를 비인간 아이덴티티까지 확장하면 시스템이나 데이터와 상호작용하는 모든 주체를 적절히 관리할 수 있으며, 정기적인 접근 권한 검토와 지속적인 교육을 병행할 경우 정보 보호 수준을 높이고 고도화된 AI 기술을 보다 안전하게 도입하는 데 도움이 된다고 설명했다.

2. 이메일 보안 강화

카네기멜론대학교 CISO인 메리 앤 블레어는 피싱이 여전히 자격 증명을 탈취하고 피해자를 속이는 주요 공격 경로로 활용되고 있다고 설명했다. 그는 위협 행위자들이 메일 서비스 제공업체의 탐지 기능을 효과적으로 회피할 수 있을 만큼 점점 더 정교한 피싱 공격을 만들어내고 있다고 경고했다.

블레어는 “기존의 다중요소 인증 기법은 이제 반복적으로 무력화되고 있으며, 공격자들은 침투에 성공한 이후 이를 빠르게 수익화하는 단계로 이동하고 있다”라고 언급했다.

이처럼 갈수록 대응이 어려워지는 이메일 보안 환경 속에서 블레어는 CISO가 보안 프로젝트를 추진하는 과정에서 외부 전문 조직의 지원을 검토할 필요가 있다고 조언했다. 실제로 그가 접촉한 여러 벤더는 제안요청서(RFP)에 응답하는 한편, 최신 보안 역량을 시험 적용할 수 있도록 테스트 환경을 제공하고 있다고 전했다.

3. AI를 활용한 코드 취약점 탐지

시스코 AI 연구원 아만 프리얀슈는 자원이 제한된 환경에서도 효과적으로 동작할 수 있는 소형 언어 모델(SLM)을 활용해 자율적으로 취약점을 탐색하는 에이전트를 개발하고 있다.

프리얀슈는 사이버 보안이 본질적으로 긴 맥락을 다뤄야 하는 영역이라고 설명했다. 최신 대규모 언어 모델(LLM)이 이를 처리할 수는 있지만, 비용이나 지연 시간 측면에서 상당한 부담이 따른다는 것이다. 그는 “조직의 코드베이스는 보통 수천 개 파일과 수백만 줄의 코드로 구성된다”라며 “특정 취약점을 찾아야 할 때 모든 코드를 대형 모델에 입력하면 감당하기 어려울 정도로 비용이 커지거나, 아예 맥락 한계를 초과하는 문제가 발생한다”라고 밝혔다.

프리얀슈는 이 프로젝트가 대부분의 보안 분석가가 취약점을 찾는 방식과 유사한 접근을 구현하는 데 목적이 있다고 설명했다. 잠재적인 취약 지점을 추론한 뒤 해당 영역을 탐색하고, 관련 코드를 가져와 분석하는 과정을 반복해 약점을 찾아내는 방식이다. 그는 “연구를 통해 이 접근법이 효과적이라는 점은 이미 확인했다”라며 “2026년에는 이를 확장해 실제 환경에서의 적용 가능성을 실질적으로 검증하고자 한다”라고 전했다.

이미 침투 테스터와 보안 연구원들은 생성형 AI를 취약점 탐색에 활용해 왔으며, AI 기반 버그 헌팅은 취약점 발견 속도를 높이는 동시에 그 접근성을 확대하는 흐름을 보이고 있다. 이는 효과적인 버그 바운티 프로그램을 설계하는 기준에도 변화를 주고 있다.

4. 기업 전반의 AI 거버넌스 및 데이터 보호 강화

AI 리스크와 자율형 위협이 사이버 보안 환경을 재편하는 가운데, AI 기반 커뮤니케이션 및 협업 솔루션 기업 고투(GoTo)의 CISO인 아틸라 퇴뢰크는 조직 내 모든 AI 도구를 안전하게 관리·모니터링하는 한편, 승인되지 않은 플랫폼을 차단해 데이터 유출을 방지하는 데 주력하고 있다.

퇴뢰크는 “설계 단계부터 보안을 내재화하는 원칙을 적용하고 사이버 보안을 비즈니스 전략과 정렬함으로써 회복력과 신뢰, 규제 준수를 동시에 구축하고 있다”라며 “이러한 요소는 AI 시대의 핵심적인 차별화 요인”이라고 설명했다. 다만 그는 여느 대규모 보안 이니셔티브와 마찬가지로, 특정 조직이나 부서에 국한된 접근으로는 성공할 수 없다고 경고했다.

그는 “현재와 미래의 성공을 보장하는 실행 방식을 정립하기 위해서는 전사 모든 부서와의 협업이 필요하다”라고 언급했다.

5. 보안 운영 강화를 위한 AI 우선 전략

세일즈 성과 관리 기업 잭틀리(Xactly)의 CISO 매슈 샤프는 수치 분석 결과와 위협 환경 변화 모두가 AI 신뢰를 최우선 과제로 삼아야 함을 보여주고 있다고 설명했다. 그는 자사 보안 운영을 대상으로 크리스텐슨식 분석을 수행한 결과, 증적 수집과 경보 검증, 규제 준수 보고와 같은 업무를 포함해 전체 기능적 작업의 약 67%가 기계적 성격을 띠며 자동화가 가능하다는 점을 확인했다고 밝혔다.

샤프는 “공격자들은 이미 머신 속도로 AI를 활용해 공격하고 있다”라며 “인간의 속도로 대응하는 방식으로는 AI 기반 공격을 방어할 수 없다”라고 지적했다. 이어 “AI 신뢰를 보안 운영에 적용하면, 기계가 더 효율적으로 수행할 수 있는 작업을 인간 분석가가 처리해야 하는 상황을 피할 수 있고, 동일한 방식으로 대응 역량을 끌어올릴 수 있다”라고 설명했다.

AI가 방어 수단으로서 실질적인 도구로 자리 잡으면서, CISO들은 조직 내 보안 팀 운영 방식 역시 AI의 잠재력을 최대한 활용할 수 있도록 재검토하고 있다.

6. 기본값으로서의 제로 트러스트 모델 전환

소프트웨어 개발 기업 유리스틱(Euristiq)의 CTO 파블로 트히르는 2026년 핵심 프로젝트로 자사 내부 개발과 고객 개발 전반에 제로 트러스트 아키텍처를 구현하는 작업을 꼽았다. 그는 “보안이 중요한 기업과 오랫동안 협력해 왔지만, 2026년에는 시장과 규제 요구 수준이 크게 높아지면서 ‘제로 트러스트 기본값’ 모델로의 전환이 전략적 필수 과제가 될 것”이라고 설명했다.

트히르는 이 프로젝트가 단순히 자사 보안을 강화하는 데 그치지 않는다고 밝혔다. 그는 “고부하 엔터프라이즈 시스템부터 데이터 무결성이 중요한 AI 기반 솔루션에 이르기까지, 고객을 위한 보다 안전한 플랫폼을 구축할 수 있게 될 것”이라며 “인프라와 개발, CI/CD, 내부 도구 전반에 제로 트러스트를 적용함으로써 통합된 보안 기준을 마련하고, 이를 고객 아키텍처에도 이전할 계획”이라고 전했다.

이 이니셔티브는 특정 보안 사고를 계기로 시작된 것은 아니라고 트히르는 설명했다. 그는 “위협 모델이 그 어느 때보다 빠르게 변화하고 있다는 점을 확인했다”라며 “공격은 더 이상 경계에서만 발생하는 것이 아니라, 라이브러리 취약점이나 API, 취약한 인증 메커니즘, 잘못 설정된 권한 등 내부 요소를 통해 점점 더 많이 발생하고 있다”라고 분석했다. 이러한 변화가 접근 방식을 근본적으로 재검토하게 만든 계기라고 밝혔다.

7. 전사 차원의 데이터 거버넌스 강화

엔터프라이즈 데이터·AI·데이터 패브릭 솔루션 기업 솔릭스 테크놀로지스(Solix Technologies)의 총괄 배리 쿤스트는 2026년 우선 과제로 모든 전사 시스템에 걸친 통합 데이터 거버넌스 및 보안 프레임워크 구축을 제시했다. 그는 이 이니셔티브가 많은 조직이 여전히 겪고 있는 섀도 데이터 문제와 일관되지 않은 접근 통제, 규제 준수 공백을 해소하기 위한 목적도 함께 담고 있다고 설명했다.

쿤스트는 “모든 환경에서 데이터 분류와 보호, 모니터링 방식을 표준화하면 추적되지 않는 민감 데이터라는 가장 큰 보안 허점을 줄일 수 있다”라며 “이 프로젝트는 가시성을 높이고 정책 기반 통제를 강화해 멀티클라우드 환경에서의 노출을 줄이는 방식으로 보안 수준을 끌어올릴 것”이라고 언급했다.

그는 고객들이 급격한 데이터 증가와 새로운 규제 요구에 압도되는 상황을 목격한 이후 이번 프로젝트를 추진하게 됐다고 밝혔다. 현재 보안 및 클라우드 엔지니어링 팀이 주요 기술 파트너와 협력하고 있으며, 2026년 3분기 도입을 목표로 준비가 진행 중이라고 전했다.
dl-ciokorea@foundryco.com

크롬 웹 스토어의 방어 체계를 우회한 조직적인 악성 브라우저 애드온 캠페인이 확인됐다. 이 캠페인은 생산성 도구로 홍보된 확장 프로그램을 무기화해 기업 세션 토큰을 탈취하고, 궁극적으로 계정 전체를 장악하려는 시도를 벌였다.

보안 기업 소켓의 위협 연구팀은 블로그를 통해 “이 확장 프로그램들은 서로 연계해 인증 토큰을 훔치고, 사고 대응 기능을 차단하며, 세션 하이재킹을 통해 완전한 계정 탈취를 가능하게 한다”라고 설명했다. 해당 캠페인은 널리 사용되는 인사관리(HR) 및 전사적자원관리(ERP) 플랫폼을 주요 표적으로 삼았다.

소켓 연구진은 이번 공격을 자격 증명을 은밀히 탈취하는 방식과 기업의 보안 대응 기능을 방해하는 수법이 함께 사용된 복합적인 기업 침해 사례로 분석했다. 공격자는 겉보기에는 신뢰감을 주는 디자인과 정상적인 용도를 내세운 크롬 확장 프로그램 5종을 게시했으며, 실제로는 기업 업무 흐름 깊숙한 지점에서 악성 행위를 수행하도록 설계했다.

설치 수 집계 결과, 연구진이 구글 보안 팀에 경고하고 삭제 요청을 제출하기 전까지 2,300명 이상이 이 도구를 설치한 것으로 추정된다. 해당 확장 프로그램은 워크데이, 넷스위트, 석세스팩터스와 같은 시스템을 겨냥했으며, 이들 환경에서는 단 하나의 세션만 탈취돼도 직원 정보, 재무 데이터, 내부 업무 프로세스 전반이 노출될 수 있다.

악성 코드를 숨긴 가짜 생산성 도구

이번에 확인된 확장 프로그램들은 모두 기업 사용자를 위한 생산성 향상 도구나 보안 보조 도구를 가장했다. 크롬 웹 스토어 등록 페이지에는 완성도 높은 대시보드 화면과 함께 HR 또는 ERP 도구 접근을 간소화해 준다는 설명이 담겼다. 요청한 권한 역시 쿠키 접근이나 페이지 수정과 같은 ‘표준적’이고 무해해 보이는 기능으로 구성돼 있었다.

그러나 설치 이후에는 전혀 다른 행위가 이어졌다. 데이터바이클라우드 액세스(DataByCloud Access), 데이터 바이 클라우드 1(Data By Cloud 1), 소프트웨어 액세스(Software Access)로 불린 세 가지 확장 프로그램은 인증 토큰이 포함된 세션 쿠키를 공격자가 통제하는 인프라로 외부 전송했다. 다수의 기업 시스템에서는 이러한 토큰만으로도 비밀번호 입력 없이 사용자 인증이 가능하다. 일부 사례에서는 최신 자격 증명을 확보하기 위해 60초마다 쿠키를 추출한 것으로 나타났다.

이미 로그인 화면과 다중 인증 절차를 통과한 세션은 탈취된 비밀번호와 동일한 역할을 할 수 있다. 이로 인해 일반적인 보안 경고를 유발하지 않은 채 계정에 직접 접근할 수 있다는 점이 문제로 지적됐다.

연구진은 “작성 시점을 기준으로 다섯 개 확장 프로그램 모두 여전히 조사 중”이라며 “구글 크롬 웹 스토어 보안 팀에 삭제 요청을 제출했다”라고 설명했다. 구글은 CSO의 논평 요청에 즉각적인 답변을 내놓지 않았다.

보안 조치 우회와 세션 하이재킹

이번 캠페인은 자격 증명 탈취에 그치지 않았다. 툴 액세스 11(Tool Access 11)과 데이터 바이 클라우드 2(Data By Cloud 2)로 불린 두 개의 확장 프로그램은 DOM 조작 기능을 포함하고 있었으며, 이를 통해 표적 플랫폼 내 보안 및 관리 페이지 접근을 적극적으로 차단했다. 이로 인해 기업 관리자는 비밀번호 변경, 로그인 이력 확인, 침해된 계정 비활성화와 같은 화면에 접근할 수 없었고, 의심스러운 활동을 인지하더라도 즉각적인 대응이 어려운 상황에 놓였다.

다섯 개 가운데 가장 고도화된 것으로 분석된 소프트웨어 액세스는 쿠키 탈취 외에도 양방향 쿠키 주입 기능을 제공했다. 탈취한 세션 토큰을 공격자가 제어하는 브라우저에 다시 주입하는 방식으로, chrome.cookies.set()과 같은 API를 활용해 유효한 인증 쿠키를 직접 심는 구조다. 이를 통해 피해 사용자의 추가적인 조작 없이도 공격자는 인증된 세션을 확보할 수 있었다.

이 기법은 로그인 화면과 다중 인증 절차를 사실상 우회하며, 즉각적인 계정 탈취를 가능하게 한다.

연구진은 “네 개의 확장 프로그램은 databycloud1104 계정으로, 나머지 하나는 다른 브랜드로 게시됐지만, 다섯 개 모두 동일한 인프라 패턴을 공유하고 있어 단일 조직이 주도한 협력된 작전으로 보인다”라고 분석했다.

소켓은 기업을 대상으로 브라우저 확장 프로그램 사용을 엄격히 감사하고 제한할 것을 권고했다. 또한 권한 요청을 면밀히 검토하고, 쿠키나 기업용 사이트에 불필요하게 접근하는 애드온은 제거해야 한다고 조언했다. 이와 함께 비정상적인 세션 활동을 지속적으로 모니터링하고, 사용자에게 배포되기 전에 악성 확장 프로그램 행위를 탐지할 수 있는 도구를 활용할 필요가 있다고 제시했다.
dl-ciokorea@foundryco.com

이번 보고서에서 기가옴(GigaOm)은 오픈텍스트를 클라우드 성능 테스트 시장에서 기술력과 비전, 실행 역량을 모두 갖춘 선도 기업으로 평가했다. 특히 단순한 부하 테스트를 넘어, 클라우드 네이티브 환경과 AI 기술을 결합한 성능 엔지니어링 역량을 통해 시장을 주도하고 있다는 점에서 높은 점수를 제시했다.

가기옴은 오픈텍스트의 성능 엔지니어링 솔루션이 소프트웨어 개발 생애주기 전반에 걸쳐 성능 검증을 내재화할 수 있도록 설계됐다고 분석했다. 개발 초기 단계부터 운영 환경에 이르기까지 일관된 성능 테스트를 수행할 수 있으며, 이를 통해 기업이 사용자 경험 저하와 서비스 장애를 사전에 예방할 수 있다는 점이 강점으로 꼽혔다.

또한 보고서는 오픈텍스트의 AI 기반 성능 테스트 기능에 주목했다. AI를 활용한 테스트 스크립트 생성과 분석 기능이 테스트 준비 시간을 단축하고, 이상 징후 탐지와 근본 원인 분석을 자동화함으로써 성능 문제를 보다 신속하게 해결할 수 있도록 지원한다는 평가다. 기가옴은 이러한 접근 방식이 수동 테스트의 한계를 극복하고, 대규모 클라우드 환경에서도 높은 정확성과 효율성을 제공한다고 설명했다.

오픈텍스트의 클라우드 네이티브 아키텍처 역시 주요 경쟁력으로 언급됐다. 자동 확장과 고가용성을 기반으로 소규모 테스트부터 글로벌 규모의 대규모 시나리오까지 안정적인 테스트 실행이 가능하며, 실제 운영 환경과 유사한 조건에서 성능을 검증할 수 있도록 지원한다는 점에서 엔터프라이즈 고객의 요구를 충족하고 있다고 기가옴은 평가했다.

기가옴은 오픈텍스트가 생성형 AI, 데브옵스(DevOps) 통합, 지능형 자동화를 지속적으로 강화하며 성능 엔지니어링 영역에서 혁신을 이어가고 있다고 밝혔다. 이를 통해 오픈텍스트가 테스트 자동화와 운영 효율성을 높이는 동시에, 빠르게 변화하는 클라우드 환경에서도 신뢰할 수 있는 디지털 사용자 경험을 제공할 수 있는 기반을 마련하고 있다는 분석이다.

오픈텍스트는 이번 평가를 통해 클라우드 성능 테스트 시장에서 단순한 솔루션 업체를 넘어, 성능 엔지니어링의 방향성과 기준을 제시하는 기업으로서의 입지를 다졌다고 밝혔다.
dl-ciokorea@foundryco.com

“それっぽい未来”と“正しい未来”は別物

動画生成のデモを見て人が驚くのは、動きが自然で、時間方向に破綻が少なく、現実にある“っぽさ”が成立しているからだ。逆に言えば、私たちは「見た目がそれっぽい」だけで、かなりの部分を理解と錯覚する。映画のVFXが物理的に厳密でなくても成立するのと同じで、視覚は細部の整合性よりも大局の流れに強く反応する。ここに、生成モデルと世界モデルを混同しやすい落とし穴がある。

世界モデルが狙う“正しい未来”は、単に自然に見える未来ではない。介入したときに筋が通る未来だ。たとえば、机の上のボールが転がる動画を作るとして、見た目だけなら「それっぽい転がり方」はいくらでも作れる。でも、そこに手を入れてボールを止めたらどうなるか、床の材質が変わったらどうなるか、別の角度から見たら同じ出来事として整合するか。こうした条件を変えたときにも一貫して予測できるなら、初めて“世界の仕組み”を掴んでいると言える。

動画生成が露呈しやすい弱点として、物体恒常性がある。画面の外に出た物体が、戻ってきたときに別物になっていたり、遮蔽物の裏で存在が曖昧になったりする。これが起きるのは、モデルが「物体という単位で世界を追跡している」より、「この画面の次に来そうな画面」を統計的に合成している比重が大きいからだ。もちろん近年は改善が進んでいるが、原理的に“見えない間も同じ物体がそこにある”という信念を維持するのは、単なる次フレーム予測以上の構造を要求する。

もう一つは接触と因果だ。物体同士が触れた瞬間に力が伝わり、速度が変わり、回転が起きる。この「触れたから変わる」という因果は、映像としては短い局所現象だが、世界理解の中核に近い。生成モデルは見た目の連続性を優先して、接触の瞬間を“それっぽく丸める”ことがある。だから、接触しているのにすり抜けたり、逆に触れていないのに影響が出たりする。人間の目は意外とこれを見逃すこともあるが、ロボットやシミュレーション用途では致命的になる。

結局のところ、“それっぽい未来”は「観客を納得させる未来」だが、“正しい未来”は「条件を変えても一貫する未来」だ。動画生成が世界モデルに見える瞬間は増えている。しかし、そのまま世界モデルと呼ぶには、介入と一貫性というハードな条件をクリアする必要がある。

世界モデルとしての生成モデル。どこまで成立しているのか

とはいえ、動画生成モデルが世界モデルに近づいているのも事実だ。理由は単純で、動画は時間方向の因果を含むからだ。画像生成が「一枚の世界」を作るのに対して、動画生成は「世界がどう変わるか」を扱う。そこには自然に、状態と遷移の学習が入り込む。ここで重要なのは、生成モデルが世界モデルに寄るかどうかは、モデルの学習目標というより「どう使うか」と「どんな条件を課すか」で決まる点だ。

世界モデルとして語りやすくなるのは、潜在空間での状態遷移を明示的に持つタイプだ。観測である動画フレームをそのまま扱うのではなく、内部で圧縮した状態表現に落とし、次の状態を予測し、必要に応じて映像に戻す。こうすると、長期予測の計算が軽くなるだけでなく、「今はこういう状況だ」という内部のまとまりが作りやすい。世界モデルの言葉で言えば、潜在状態が“世界の要約”として機能する。

さらに一歩進むのが、アクション条件づけだ。つまり「こう動かしたらどうなるか」を学ぶ形で、入力に行動を入れて未来を生成する。ゲームやロボットの文脈ではこれが決定的で、行動がなければ世界モデルは計画に使いにくい。動画生成でも、カメラの移動、視点の指定、物体の操作など、何らかの“介入”を条件として与えられるようになるほど、世界モデルに近い性格を帯びる。生成が“鑑賞用の映像”から、“試行用の未来”へ役割を変えるからだ。

ただし、ここで壁が出る。動画生成の強みは、現実の多様な見た目を再現できることだが、世界モデルとしては、その多様さが逆に足を引っ張ることがある。見た目の自由度が高いほど、未来の不確実性は増え、モデルは「どの未来でもあり得る」方向へ逃げやすい。すると、もっともらしいが決め手に欠ける予測になる。計画に使うなら、未来が多様であること自体は悪くないが、行動によって分岐が“制御可能”になっていないと意味が薄い。どんな行動をしても、映像がなんとなく流れていくだけなら、意思決定にはつながらない。

長期予測の破綻も避けがたい。動画生成は一歩先を当てるのが得意でも、それを積み重ねると誤差が増える。最初は小さなズレでも、数秒後には別世界に漂流する。これは映像としては「なんか変だけど、雰囲気はそれっぽい」で済むかもしれない。しかし世界モデルとして使うなら、ほんの少しのズレが致命傷になる。特に、衝突や落下のように一瞬のイベントが将来を決める場面では、イベントの扱いが曖昧だと計画が成立しない。

もう一点、生成モデルが世界モデルになりきれない典型は、同じ出来事を別視点で見たときの整合性だ。世界モデルは“世界そのもの”を内部に持つので、視点が変わっても同じ世界として整合するのが理想だ。一方、動画生成はしばしば「この視点の映像」を直接生成する。視点を変えた生成を別途行うと、物体の位置関係や細部が微妙に変わってしまうことがある。これは「世界のモデル」ではなく「映像のモデル」になっている兆候で、世界モデルとの距離を示す分かりやすいサインだ。

つまり、動画生成は世界モデルの素材になり得るが、そのままでは“映像らしさ”に引っ張られる。世界モデルとして成立させるには、行動による分岐、視点を超えた一貫性、イベントの因果、長期安定性といった条件を、どこまで設計に織り込めるかが鍵になる。

評価の難しさと、これからの競争軸

生成モデルが世界モデルに近づいているかどうかを議論するとき、最大の問題は評価だ。画像や動画の生成では、自然さや高精細さが目立つので、評価もそこに寄りやすい。しかし世界モデルとしての価値は、画質ではなく「予測が意思決定に使えるか」にある。ここを測らない限り、進歩しているのか、見た目がうまくなっただけなのかが分からない。

評価が難しい理由の一つは、未来が一つに決まらないことだ。現実の映像ですら、少し条件が変われば別の未来になる。正解の未来が複数ある以上、「このフレームが正しい」と一意に言えない。そこで、生成の評価では統計的な指標や人間の主観が使われがちだが、世界モデルとしての能力を測るには不十分になりやすい。必要なのは「介入に対して整合するか」「制約を守るか」「長期的に破綻しないか」といった性質だが、これらは短いクリップを眺めるだけでは判断しにくい。

もう一つは、モデルが“うまいごまかし”を覚えることだ。例えば、物体が見切れそうになったら、都合よくカメラを揺らして誤魔化すような生成は、動画としては自然でも、世界理解としては後退かもしれない。あるいは、人間が気づきにくい矛盾を抱えたまま、質感やライティングで説得してくる。映像の説得力は強力で、評価者の感覚を簡単に乗っ取る。だから、世界モデルとしての評価は、人間の主観に頼りすぎない仕組みが要る。

今後の競争軸として見えてくるのは、いわば“世界に対するテスト”だ。条件を変えるテスト、視点を変えるテスト、行動を入れるテストを通じて、どこまで一貫性を保てるかが問われる。単に「次フレームっぽいもの」が出るだけではなく、「この操作をしたらこうなる」という因果が維持されるか。遮蔽物の裏で物体が存続するか。接触の結果が物理として成立するか。こうしたチェックは、映像の美しさとは別の次元でモデルを評価する。

プロダクト視点で見ると、世界モデル的な動画生成は“用途”で価値が決まる。映画制作や広告クリエイティブでは、多少の物理矛盾より表現力が重要かもしれない。一方、ロボットの訓練や作業計画では、見た目が多少荒くても因果が正しいほうが価値が高い。つまり、同じ動画生成でも、世界モデルに寄せるほど「正しさ」が要求され、表現の自由度とのトレードオフが強くなる。ここを理解せずに「動画生成が進んだから世界モデルも完成に近い」と結論づけるのは危険だ。

結論として、動画生成は世界モデルの入口に立っている。時間を扱う以上、内部に状態遷移が芽生えるからだ。しかし、世界モデルと呼ぶためには、見た目の連続性ではなく、介入と一貫性に耐えることが必要になる。生成モデルが次に競うのは、画質だけではない。“世界として筋が通る未来”をどれだけ作れるか。そこに、生成AIの次の本当の伸びしろがある。

制御と強化学習の間にある“空白”を埋める発想

ロボットを動かす技術は大きく分けると、モデルに基づく制御と、経験に基づく学習に分かれる。前者の代表は古典的な制御工学で、ロボットの力学モデルやセンサーの挙動がある程度わかっていることを前提に、目標との差分を埋めるように入力を調整する。後者の代表は強化学習で、最初から正しいモデルがなくても、試行錯誤の結果としてうまい行動を見つけていく。どちらも強力だが、現場に出るロボットはこの二つのど真ん中でつまずきやすい。

制御工学は、モデルが正しければ非常に安定している。しかし現実の現場は、モデルがいつも正しいとは限らない。床が濡れている、荷物の重心が少しずれている、空調の風で軽い部品が動く、同じ型番の部材でも摩擦が微妙に違う。こうした“地味なズレ”は、数式のモデルに載せづらい一方で、ロボットの成否を左右する。結果として、現場で制御を丁寧にチューニングしても、想定外の状況で破綻してしまう。

強化学習は、そうしたズレも含めて学習で吸収できそうに見える。ところが、現実のロボットに試行錯誤をさせるのは高い。転倒させるわけにはいかないし、失敗で周囲を傷つける可能性もある。データを集めるだけでも時間がかかる。つまり、強化学習が得意な「大量の試行」は、現実世界では制約が強すぎる。シミュレーター上で学習してから実機へ移す手法も広く使われるが、シミュレーターと現実の差、いわゆる“シム・トゥ・リアル”の壁にぶつかる。ここでまた、モデルの不正確さが問題として戻ってくる。

このジレンマを埋める発想が世界モデルだ。世界モデルは、現実のデータから「環境がどう反応するか」を学び、内部で予測できるようにする。重要なのは、世界モデルが“完全な物理法則”を手に入れることより、「意思決定に使えるレベルで未来を見積もる」ことを目指す点だ。たとえば、箱を押したときに数ミリ単位で正確にどこへ行くかよりも、押し方を変えれば倒れる危険が上がるのか、滑りやすいから押すより持つべきなのか、そういった判断ができれば価値がある。

さらに言えば、世界モデルは「行動の結果を先読みしてから動く」という意味で、制御と学習をつなぐ。制御の世界では、未来を少し先まで予測しながら入力を決める枠組みが昔からある。学習の世界では、その予測モデル自体をデータから獲得できる。世界モデルは、その二つを合体させたものとして理解すると腑に落ちやすい。ロボットが失敗しやすいのは、まさにこの“予測して選ぶ”能力が弱いからであり、世界モデルはそこを補うための設計思想だ。

予測してから動く。モデル予測制御と世界モデルの接続

ロボットに「やる前にわかる」を持たせるとき、分かりやすい比喩は脳内シミュレーションだ。人間も、コップを取ろうとするときに、頭の中で一瞬だけ「この角度だとぶつかるな」とか「ここを持てば滑らないな」と想像してから手を伸ばしている。世界モデルは、これを計算として実装するための部品になる。

このとき中心にあるのが、モデル予測制御（MPC）に近い考え方だ。MPCは、現在の状態から未来を短い地平で予測し、その予測の中で目的を最も満たす入力列を選ぶ。選んだ入力をすべて実行するのではなく、最初の一手だけを実行し、次の瞬間にまた観測して計画を更新する。こうすることで、モデルが少し不正確でも、観測で軌道修正しながら安定に動ける。世界モデルが入るのは、ここで使う「未来予測のモデル」を、解析的な物理モデルだけに頼らず、データから学習したものに置き換える部分だ。

ロボットでこの接続が効くのは、短期予測が十分役に立つ場面が多いからだ。たとえば、障害物回避では数秒先まで見通せれば安全性が上がる。把持や押し操作では、触れた直後の反応が読めれば失敗が減る。長期的に完璧な未来が読めなくても、「次の一手」を賢くするだけで成果が出る。世界モデルは、その短期予測をデータ駆動で鍛え、MPC的な枠組みに流し込めるのが強みになる。

ただし、ここで問題が出る。ロボットの世界は、観測できない状態が多い。カメラからは見えても、摩擦係数や内部応力、接触面の微細な凹凸は見えない。さらには、センサー自体が遅れたりノイズが乗ったりする。だから世界モデルでは、観測そのものではなく、潜在状態と呼ばれる内部表現を持つことが多い。潜在状態は、見えない要因も含めて「いま本当はこういう状況だろう」という推定をまとめたものだ。そして潜在状態の遷移を学ぶことで、観測に揺らぎがあっても、内部では滑らかに世界が動いているように扱える。

ここで大事なのは、世界モデルは“何を予測するか”を設計する必要があるという点だ。カメラ画像の画素を丸ごと予測するのは重いし、ロボットが必要とするのは画素そのものではないことが多い。物体の位置、姿勢、接触の有無、力の向きといった、行動選択に直接効く要素がわかれば十分な場合が多い。つまり、世界モデルは「行動に必要な抽象度」で世界を表現できるほど強くなる。

そして、現実に欠かせないのが不確実性の扱いだ。ロボットの操作は、同じ行動でも結果がぶれる。箱を押すとき、わずかな角度の違いで回転したり滑ったりする。もし世界モデルが一つの未来を断定すると、その未来が外れた瞬間に計画が崩れる。だから世界モデルは、未来に幅を持たせる必要がある。複数の可能性を出し、その中で「最悪のケースでも安全」な手を選ぶ、あるいは「不確実性が小さくなる行動」を先に選ぶ、といった戦略が取りやすくなる。ここが、単なる予測器ではなく、意思決定のための世界モデルとして価値が出るところだ。

一方で、長期予測を前提にすると誤差が積み上がる問題が出る。内部で一歩ずつ未来を生成していくと、少しのズレが雪だるま式に増え、数秒後には現実と別の世界に入り込むことがある。これを避けるために、短い地平で回し続けたり、観測で頻繁に補正したり、モデルの“信頼できる範囲”を明示的に扱う設計が重要になる。世界モデルをロボットに載せるというのは、モデルを作ること以上に、モデルと現実の付き合い方を作ることでもある。

現実世界での落とし穴と、安全に寄せる設計

世界モデルは、ロボットの失敗を減らす道具になりうる。しかし、導入すればすぐに賢くなるような魔法ではない。むしろ、世界モデルを入れた途端に失敗の種類が変わることがある。典型は「もっともらしい誤予測」に引っ張られる失敗だ。ロボットが内部シミュレーションで「この動きなら成功する」と判断しても、現実では摩擦が違って滑り、障害物に触れてしまう。ここで怖いのは、内部では整合が取れているので、失敗の理由が見えにくいことだ。外部から見ると、ロボットが自信満々に危険な動きを選んだように見える。

この問題の根っこには、データの偏りがある。世界モデルは観測されたデータから学ぶので、データが薄い領域の予測は弱い。現場のロボットは、業務でよく出る状況のデータは溜まる一方、危険な状況や異常系のデータは意図的に避けるため、そもそも学びにくい。結果として、いざ例外が起きると世界モデルは脆くなる。現実は皮肉で、安全のために避けたデータが、安全を作るために必要だったりする。

だから設計としては、世界モデルに頼り切らない構造が重要になる。まず基本は、保守的な制約を別レイヤーで置くことだ。速度や力の上限、立ち入り禁止領域、衝突が確実な行動の禁止など、世界モデルがどう判断しようと越えてはいけない柵を作る。世界モデルはその柵の中で最適化を行う。この分業があるだけで、誤予測が致命傷になりにくい。

次に大事なのが、異常を検知して“疑う”能力だ。世界モデルが予測した結果と、実際に観測された結果の差が大きくなったら、「いまモデルが当たっていない」サインになる。ここで計画を短くする、保守的な動きに切り替える、あるいは一旦停止して再推定する。こうしたモード切り替えがあると、世界モデルの弱点を運用でカバーできる。ここは、現場での安全文化に近い。航空機や工場設備が、異常時にフェイルセーフへ移るのと同じ発想で、世界モデルにも“降り方”を用意する。

また、現実的にはデータ収集の設計が世界モデルの成否を決める。ロボットが日常業務で集めるログだけでは足りないことが多い。わざと微妙に違う条件で動かしてみる、操作対象を変えてみる、センサーを変えてみる。そうして「モデルが揺さぶられる」データを確保すると、世界モデルは頑健になる。もちろん、危険な揺さぶりはできないから、安全な範囲での探索や、シミュレーターでの補助が必要になる。世界モデルは“安全に賢くなるための装置”だが、賢くするためにはやはり学習が必要で、その学習を安全に行うための設計が要る。

最後に、世界モデルは“責任の分界”も変える。従来のロボットは、制御則やルールベースのロジックで動き、動作の理由が比較的追いやすかった。世界モデルを入れると、行動が内部シミュレーションの結果で決まるため、説明や監査が難しくなる。現場で運用するなら、世界モデルがどの情報を根拠にどんな予測をしているか、少なくともデバッグ可能な形で可視化する必要がある。現場の人が「今日は床が滑るから危ない」と感じたとき、モデルがそれを反映できるのか、反映できないなら手動で保守モードに入れられるのか。こうした人間とのインターフェースを設計しないと、技術としては進んでも現場で嫌われる。

ロボットが失敗するのは、世界が複雑で、しかもその複雑さが“例外”として現れるからだ。世界モデルは、その複雑さを内部に取り込み、行動の前に結果を想像させることで、失敗の確率を下げる。しかし同時に、世界モデルが間違えば、間違った未来を信じて突っ込む危険も生む。だから鍵は、世界モデルを賢い脳として神格化するのではなく、不確実な仮説を作る道具として位置づけ、その仮説を現実の観測と制約で矯正し続ける設計にある。ロボットに「やる前にわかる」を与えるとは、未来を当てることではなく、当てられない未来と安全に付き合う仕組みを作ることなのだ。

世界モデルの定義と、よくある誤解

世界モデル（World Model）という言葉は、ざっくり言えば「世界がどう動くか」を内部に持つための表現だ。ここで言う世界は、必ずしも地球全体や社会全体のことではない。ロボットが机の上で物を押したときに何が起きるか、ゲームの中でキャラクターが曲がったときに視界がどう変わるか、あるいは会話で相手の感情がどう推移しそうか、そういう“自分が関わる範囲の環境”を含む。重要なのは、その内部表現が「次に何が起きるか」を予測するために使える、という点だ。

ここで最初の誤解が生まれやすい。世界モデルは単なる「知識の集まり」ではない。百科事典的に事実を詰め込んだものを世界モデルと呼ぶなら、検索エンジンのインデックスも世界モデルになってしまう。しかし、世界モデルが狙う中心は「状態の把握」と「状態の遷移」、つまり今がどういう状況で、それが次にどう変わるかという動力学の側にある。もちろん知識は使うのだが、知識が“予測に接続されている”かどうかが境目になる。

次の誤解は、世界モデルを「完璧な物理エンジン」だと捉えてしまうことだ。確かに理想形としては、世界を正確にシミュレーションできれば強い。だが現実の世界は、未知の要因とノイズだらけで、正確さだけを追うとすぐに破綻する。世界モデルは、正確さよりもまず「意思決定に使える程度に、世界を圧縮して表す」ことが多い。たとえば車の運転で、人はタイヤのゴム分子の運動を計算していない。見える範囲の車間距離、相手の速度、信号の状態を頭の中でまとめて「今は減速だな」と判断する。世界モデルとは、そういう“必要なところだけ掴む”能力の機械版でもある。

さらにややこしいのが、近年の大規模言語モデル（LLM）との関係だ。LLMは大量の文章から、次の単語を予測する訓練を受けている。その結果、世界の知識や因果関係っぽいものが内部に表現され、「それは世界モデルでは？」という議論が起きる。ここでのポイントは、言語モデルが持つ内部表現が世界モデル的に働く場面は確かにある一方で、世界モデルという概念が本来重視するのは「世界との相互作用」と「予測が行動にフィードバックする」構造だということだ。文章上の整合性が取れていても、物理的な因果や、介入したときの結果が整合しないことは起こりうる。言い換えると、言語としての“もっともらしさ”と、世界としての“成り立ち”は一致するとは限らない。

それでも世界モデルが重要なのは、AIが次に進む方向が「生成」から「計画」へ寄り始めているからだ。何かを出力できるだけではなく、その出力が現実にどう影響するかを見積もり、目標に沿って手順を組み立てる。そこに必要なのが、世界がどう動くかを内部に持つ仕組みであり、それを世界モデルと呼ぶ。

どうやって世界モデルは学習されるのか

世界モデルの学習は、一言でまとめるなら「観測をうまくまとめて、次を当てる」だ。たとえば、カメラ画像の連続、センサーの時系列、ログデータ、会話の履歴など、世界から得られる情報はそのままだと複雑すぎる。そこでまず、観測を圧縮して“状態”として表す。次に、その状態が時間とともにどう変わるか、あるいは自分が何か行動したときにどう変わるかを学ぶ。ここまで聞くと古典的な予測モデルと同じに見えるが、世界モデルの文脈では「状態が直接見えない」ことを前提にすることが多い。

現実は、必要な情報がいつも観測できるわけではない。たとえば、机の上に置いたコップは見えているが、コップの底の滑りやすさは見えない。相手が怒っているかどうかも、心の中は見えない。そこで世界モデルは、見えない要因を含めた“潜在状態”という考え方を使う。観測から潜在状態を推定し、その潜在状態から次の潜在状態を予測し、必要ならそこから観測を再構成する。この構造があると、見えない部分をうまく吸収しながら、長期的な予測や計画につなげやすくなる。

学習の基本の形は「自己教師あり」になりやすい。つまり、教師が「正解ラベル」を用意してくれなくても、世界は勝手に次の瞬間を見せてくれるので、それを正解として学べる。動画なら次フレーム、時系列なら次の値、会話なら次の発話の流れがラベルになる。こういう学び方は、データの量を確保しやすい。世界モデルが伸びやすい背景には、センサーやログが大量に取れる環境が増えたこともある。

ここで一段深い話として、「予測すべきものは何か」が難所になる。次フレームの画素を全部当てにいくと、世界は細部まで複雑すぎて学習が重くなる。逆に抽象化しすぎると、大事な因果が抜ける。だから世界モデルは、どのレベルで世界を表現するか、つまり表現の粒度を設計するのが勝負になる。人間も同じで、たとえばスポーツ観戦でボールの回転数の微細変化を逐一追わない代わりに、選手の位置関係やリズムで展開を予測している。AIでも、意味のある単位で世界を切り出し、予測を成立させる工夫が要る。

もう一つのキモは、不確実性をきちんと扱うことだ。世界は一つの未来だけを持たない。雨が降りそうでも降らないかもしれないし、相手が笑うか怒るかは状況次第だ。世界モデルが単一の未来を断定すると、外れたときのダメージが大きい。だから、多様な可能性を持った未来を表現できるモデルが好まれる。これが「生成モデル」と接続するポイントで、世界モデルはしばしば「未来を生成する」形で設計される。単に平均を取る予測ではなく、複数の筋の通ったシナリオを出し、その中から目的に合う行動を選ぶ、という流れが作りやすい。

こうして学習された世界モデルは、使い方によって性格が変わる。短期の予測が得意なもの、長期の計画に耐えるもの、行動を入れると反応が返るもの、観測の欠落に強いもの。世界モデルは単体の技術名というより、「予測できる内部表現をどう作り、どう使うか」という設計思想の束として理解したほうが、実態に近い。

世界モデルがもたらす価値と、限界の正体

世界モデルの価値は、端的に言えば「やる前に試せる」ことにある。現実世界での試行錯誤はコストが高い。ロボットが転倒すれば壊れるかもしれないし、製造ラインの実験は止められないし、ビジネス施策の失敗は損失になる。世界モデルがあれば、内部でシミュレーションして危ない手を避けたり、成功確率の高い手を優先したりできる。強化学習の文脈では、環境とのやりとりを節約できることが強みとして語られるが、現実の現場では「安全」と「費用」の問題として、より切実に効いてくる。

また、世界モデルは「汎化」に関係する。汎化とは、見たことのない状況でもうまくやる能力だ。単なるパターン暗記は、環境が少し変わると崩れる。だが、因果や構造を内部に持てれば、表面が違っても本質が同じなら対応できる可能性が上がる。たとえば、机が木製から金属になっても「滑りやすさが変わる」程度の差として扱えれば、押す力や速度を調整して目的を達成できる。世界モデルの目標は、世界の細部を丸暗記することではなく、変化の仕方を掴むことにある。

ただし、ここからが大事で、世界モデルの限界もこの価値と同じ場所から生まれる。内部で試すということは、内部の世界が間違っていたら、間違ったシミュレーションで意思決定してしまうということだ。しかも怖いのは、予測が少しだけ外れるときほど、長期的には大外れになることがある点だ。未来を一歩ずつ予測していくと、誤差が積み上がり、途中から現実と別世界に迷い込む。これは「ロールアウトの破綻」と呼ばれることがあるが、要するに長期のシミュレーションほど信用が難しい。

さらに、データが存在しない領域、いわゆる分布外に出た瞬間に壊れやすい。世界モデルは観測から学ぶ以上、観測されないものを正しくは学べない。見たことのない道具、未知のルール、極端な状況に弱いのは自然だ。ここで、言語モデルのハルシネーションと似た構図が出る。もっともらしい予測を生成できるが、それが現実の拘束条件を満たすとは限らない。見た目や文章の整合性が高いほど、間違いに気づきにくくなるのが厄介だ。

だから実務では、世界モデルを「万能な頭脳」として置くより、「不確実性を含む仮説生成装置」として扱うのが安全だ。世界モデルが出した未来予測を、別のチェック機構で検証する。保守的な制約をかけて危険な行動を禁止する。観測が入ったらすぐに状態推定を更新し、内部世界を引き戻す。こういう設計がセットになって初めて、世界モデルは強みとして働く。

もう一つ、説明可能性の問題もある。世界モデルが潜在状態に世界を圧縮すると、その潜在状態は人間の言葉で説明しにくいことが多い。「なぜそう判断したのか」を問われたとき、モデル内部の状態遷移はブラックボックスになりがちだ。これは社会実装で必ず突っ込まれるポイントで、医療、金融、製造、安全領域では特に無視できない。世界モデルを導入するなら、説明のための可視化や監査、あるいは説明可能性を一定担保するモデル設計が必要になる。

それでも世界モデルが再注目されるのは、AIが“文章を出す機械”から“世界で動く意思決定者”へ近づくほど、避けて通れない概念だからだ。未来を想像できなければ、計画も、探索も、安全も作れない。逆に言えば、世界モデルを語ることは、AIの能力を語ることと同時に、AIの危うさを語ることでもある。予測は力だが、予測を信じすぎるのも危険だ。この緊張感ごと抱えながら、「どの世界を、どの粒度で、どの目的のためにモデル化するのか」を設計できるかどうかが、生成AI時代の次の分水嶺になる。