AI 시대의 엔지니어링 검증 — 왜 도메인 전문성이 더 중요해지는가
생성형 AI는 검증 문서와 코드의 산출 비용을 크게 낮췄습니다. 그런데 원자력처럼 실패가 허용되지 않는 분야에서는, 산출이 쉬워질수록 결과를 판별하는 능력의 가치가 올라갑니다. 무엇이 자동화되고 무엇이 남는지를 정리했습니다.
무엇이 실제로 바뀌었는가
몇 해 전만 해도 검증계획서 초안을 만드는 데 며칠이 걸렸습니다. 지금은 표준 목차와 요구사항 목록을 주면 몇 분 만에 문서 형태가 나옵니다. 요구사항 추적 매트릭스의 표 구조, 시험 절차서의 문장 형식, 반복되는 계산 스크립트 — 이런 것들은 이제 도구가 처리합니다.
이 변화 자체는 환영할 일입니다. 문제는 그다음입니다. 산출물이 빨라진 만큼 검토해야 할 산출물도 늘었고, 그것이 맞는지 판별하는 일은 전혀 빨라지지 않았습니다.
형식이 맞는 문서와 내용이 맞는 문서
AI가 만든 검증 문서의 특징은 형식이 매우 그럴듯하다는 점입니다. 목차 구성이 표준에 부합하고, 문장이 규제 문서의 어투를 따르며, 표가 빠짐없이 채워져 있습니다.
그러나 실무에서 발견되는 문제는 대개 형식이 아니라 내용에 있습니다.
- 요구사항 추적 매트릭스의 추적 고리가 끊어져 있는데 표는 완성되어 보이는 경우
- 규제 조항이 인용되어 있으나 해당 사안에 적용되지 않는 조항인 경우
- 계산은 정확하나 입력 조건이 실제 설치 환경과 다른 경우
- 시험 항목이 나열되어 있으나 지배 조건이 누락된 경우
- 결론은 타당하나 결론을 지지하는 근거가 실제로는 없는 경우
이런 오류는 문서를 읽는 것만으로는 드러나지 않습니다. 대상 시스템이 무엇을 하는지, 왜 그 요구사항이 존재하는지 아는 사람이 볼 때만 보입니다.
검토 비용이 작성 비용을 넘어서는 지점
작성이 10배 빨라졌는데 검토가 그대로라면, 전체 일정에서 검토가 차지하는 비중이 커집니다. 그리고 검토는 대상을 이해하는 사람만 할 수 있습니다. 자동화가 진행될수록 병목은 도메인 전문성으로 이동합니다.
문제를 정의하는 일은 자동화되지 않는다
구조해석을 예로 들어보겠습니다. "이 구조물이 안전한지 해석해 달라"는 요청은 그대로는 수행할 수 없습니다. 다음이 먼저 정해져야 합니다.
- 어떤 하중이 어느 지점에 어떤 방향으로 작용하는가
- 구조물은 실제로 어떻게 지지되어 있는가
- 어떤 하중 조합을 고려해야 하는가
- 무엇을 판정 기준으로 삼을 것인가
- 어느 수준의 안전율을 요구하는가
이 조건들이 정해지면 계산은 도구가 합니다. 그러나 조건을 정하는 것은 대상 설비와 적용 기준을 아는 엔지니어의 판단입니다. 잘못 정의된 문제는 아무리 정확하게 풀어도 틀린 답을 냅니다.
경계조건 하나만 바꿔도 응력 결과가 몇 배 달라집니다. 도구는 주어진 조건에 대해 정확한 답을 주지만, 그 조건이 실제 상황을 대표하는지는 판단하지 않습니다.
그럴듯한 오답이 더 위험하다
명백히 틀린 결과는 오히려 안전합니다. 눈에 띄기 때문입니다. 실제로 위험한 것은 합리적으로 보이지만 틀린 결과입니다.
응력 특이점이 대표적입니다. 해석 결과에서 최대응력이 허용값을 초과했다고 나오면, 그 값이 실제 위험 신호인지 아니면 모델의 인공물인지 판별해야 합니다. 이를 구분하지 못하면 두 방향 모두로 잘못된 결정을 하게 됩니다.
- 안전한 구조를 불합격 처리해 불필요한 설계 보강을 하거나
- 반대로 실제 위험 신호를 특이점으로 오판해 넘어가거나
이 판별에는 메시 수렴성 검토라는 절차가 있지만, 그 절차를 적용해야 한다는 것을 아는 것 자체가 도메인 지식입니다.
책임의 문제
기술적 논의를 떠나, 규제 환경에서는 구조적인 이유가 하나 더 있습니다.
원자력 안전 심사에서 요구되는 것은 결론이 아니라 결론에 이른 근거와, 그 근거를 책임지는 주체입니다. 검증보고서에는 수행자와 검토자가 명시되고, 규제기관의 질의에는 사람이 답해야 합니다.
AI는 판단의 출처가 될 수 없습니다. "도구가 그렇게 산출했다"는 것은 근거가 되지 못합니다. 결국 서명하는 사람이 그 내용을 이해하고 있어야 하며, 이 구조는 도구가 아무리 발전해도 바뀌지 않습니다.
그렇다면 AI를 쓰지 말아야 하는가
반대입니다. 적극적으로 써야 합니다. 다만 어디에 쓰는지가 중요합니다.
| 적합한 활용 | 사람이 유지해야 할 영역 |
|---|---|
| 문서 형식 정리 및 초안 생성 | 요구사항의 타당성 판단 |
| 반복적인 표·매트릭스 생성 | 추적성의 실질적 검증 |
| 정형화된 계산 수행 | 입력 조건과 가정의 결정 |
| 표준 조문 검색 및 정리 | 해당 사안에의 적용 여부 판단 |
| 코드 작성 및 정적 점검 | 결과의 물리적 타당성 검토 |
| 형식 오류·누락 항목 탐지 | 규제 심사 관점의 해석과 대응 |
왼쪽 열을 도구에 맡길수록, 오른쪽 열에 쓸 시간이 늘어납니다. 자동화의 목적은 사람을 줄이는 것이 아니라 사람이 판단에 집중하게 하는 것입니다.
The MOOV의 접근
우리는 요구사항 추적 매트릭스 생성, 문서 형식 검토, 반복 계산을 자체 개발한 도구로 처리합니다. 동시에 모든 산출물은 대상 기술을 이해한 엔지니어가 검토합니다. 작업은 도구가, 판단은 사람이 맡는다는 원칙입니다.
정리
AI는 엔지니어링 검증에서 실질적인 생산성 향상을 가져왔습니다. 그러나 그 향상은 산출 단계에 집중되어 있고, 판단 단계는 여전히 사람의 영역입니다.
오히려 산출이 쉬워질수록 검토 부담이 커지고, 그럴듯한 오답의 발생 가능성도 높아집니다. 결과적으로 도메인 전문성과 문제 이해도의 가치는 줄어든 것이 아니라 커졌습니다.
엔지니어링 회사를 평가하는 기준도 이에 따라 달라집니다. 산출물을 얼마나 빨리 만드는지가 아니라, 산출물이 맞는지 판별할 수 있는지가 기준이 됩니다.