AI보안공부하기(1-1)

✅ 1주차 학습 시작: AI 보안이란 무엇인가?

🎯 오늘의 목표:

“AI 보안이 정확히 뭔지, 기존 보안이랑 뭐가 다른지, 왜 중요한지 이해하기”

---

🔹 Step 1. 정의부터 짚자

AI 보안이란?

🤖 인공지능(AI) 시스템이 해킹, 오작동, 정보 유출 등의 위협으로부터 안전하게 작동하도록 지키는 모든 기술과 개념이야.

🔒 예시 상황:

• 누군가 AI 모델에 이상한 입력을 줘서 잘못된 판단을 내리게 만들면?
• AI가 학습한 데이터에서 개인정보가 유출되면?
• 모델 구조를 뽑아서 도용되면?

→ 이런 걸 막는 역할이 바로 AI 보안이야.

---

🔹 Step 2. 기존 보안 vs AI 보안

구분기존 보안AI 보안

보호 대상	서버, 네트워크, 시스템	AI 모델, 데이터, 추론 결과
공격 방식	침입 차단, 권한 탈취	입력 조작, 학습 데이터 조작, 결과 왜곡
도구	방화벽, 암호화, 인증	적대적 훈련, 입력 정규화, 모델 난독화 등

 

📌 쉽게 말하면:

AI 보안은 “생각하는 프로그램 자체”를 보호하는 보안이야.
(기존 보안은 “컴퓨터 자체”를 보호하는 거고)

---

🔹 Step 3. 너한테 묻는 질문 (생각해보기)

1. 🔍 너는 혹시 챗GPT 같은 AI가 해킹당하거나 거짓말 유도당하면 어떤 일이 벌어질 수 있다고 생각해?

AI해킹당하면 거짓말 유도당하면 AI에 저장되어있는 나의 개인정보가 유출되거나 실수로라도 대답하겠지. 그러면 중요한 정보들이나 나의 약점으로 큰 일이 초래할수있다면 큰일이 벌어질수있다고 생각해. 그 큰일에는 계약관련될수도있고, 중요인물이면 전쟁과 관련될수도있고, 인간의 목숨이 왔다갔다할수도있지않을까?

 

1. 📊 너가 만든 AI 서비스가 누군가에 의해 결과를 왜곡시킬 수 있다면, 너는 어떤 걸 가장 먼저 막고 싶을까?

사실 나는 AI를 왜곡시킬수있다면, 내가 알고자하는 정보를 말하도록 유도하고싶어. 반대로생각해보면 그런 사람의 심리를 더 잘알기때문에 보안에 적합하지않을까 싶기도하고. 도덕과 양심은 있거든^^ 개인정보가 털리는걸 가장 막고싶지... 주요 안보정책등.... 경제 주식관련된? ㅋㅋㅋ

 

 

📚 오늘 공부 요약

항목핵심 요약

AI 보안 정의	AI 모델을 해킹/오류/유출로부터 보호하는 기술
기존 보안과 차이	보호 대상·공격 방식이 다름
왜 필요한가?	AI는 결과가 사람에게 큰 영향을 주기 때문에 더 민감함

 

🔜 다음 진행

우리는 이제 1주차 STEP 2: 주요 위협 종류로 들어가.

• 적대적 예제 (adversarial attack)
• 데이터 포이즈닝 (data poisoning)
• 모델 추출 (model extraction)
• 멤버십 추론 (membership inference)