Pentagon Moves to Designate Anthropic as a Supply-Chain Risk: What Developers Need to Know

#2. 로컬 우선 및 오픈 가중치 모델의 부상

외부 공급망 위험에 대한 가장 강력한 방어책은 직접 호스팅(self-hosting)하는 것입니다. 우리는 Llama 3, Mistral, Qwen과 같은 오픈 가중치(open-weights) 모델의 도입이 대폭 가속화될 것으로 예상합니다. 이러한 모델을 자체 가상 사설 클라우드(VPC) 내에서 실행하면 민감한 데이터가 네트워크 외부로 절대 유출되지 않도록 보장할 수 있습니다.

개발자 유틸리티의 경우, WebAssembly(Wasm)를 통한 로컬 실행이나 Ollama, vLLM과 같은 로컬 추론(inference) 서버를 탐색하는 것이 엔터프라이즈 배포의 표준 요구 사항으로 빠르게 자리 잡고 있습니다.

#3. 더 엄격한 데이터 거버넌스 파이프라인

컨텍스트 데이터를 외부 API로 전송하기 전에 견고한 데이터 정제(sanitization) 파이프라인이 필요합니다. 여기에는 개체명 인식(NER)을 구현하여 개인 식별 정보(PII), 보호 대상 건강 정보(PHI), 기업 기밀 데이터 등을 탐지하고 마스킹하는 작업이 포함됩니다.

# Example of a basic PII masker before sending data to an LLM
import re

def sanitize_prompt(prompt: str) -> str:
    # Redact email addresses
    prompt = re.sub(r'[\w\.-]+@[\w\.-]+', '[REDACTED_EMAIL]', prompt)
    # Redact potential social security numbers
    prompt = re.sub(r'\b\d{3}-\d{2}-\d{4}\b', '[REDACTED_SSN]', prompt)
    return prompt