심화 E — 자율주행 AI 윤리와 사회 (시민성)

대상 자율주행·모방학습 체험 후 · 도구 face_blur_photos.py, ../imitation_learning_car/tools/dataset_viewer.py

목표 우리가 직접 만든 자율주행차를 소재로, AI의 안전·공정·프라이버시·책임을 토론한다.

1차시 — 안전과 책임: 자율주행 딜레마

• 사례: 우리 차의 회피 로직(maze_explore, 초음파 회피)은 장애물을 피합니다. 그런데 "피할 수 없는 상황"이라면? (트롤리 문제의 자율주행판)

토론 질문:

• 사고가 났을 때 책임은? 제조사 / 프로그래머 / 탑승자 / AI?
• 우리가 짠 should_stop 규칙이 늦게 작동해 사고가 나면 누구 탓일까?

활동: vision_person_stop.py의 신뢰도(confidence)를 낮추면 더 잘 멈추지만 오탐↑. "안전을 위해 자주 멈추는 차" vs "안 멈춰서 빠른 차" — 어디에 선을 그을까?

2차시 — 공정성과 편향: 데이터가 곧 가치관

• 실험(연계): imitation_learning_car/tools/dataset_viewer.py로 한쪽으로 치우친 데이터를 만들어 학습 → 자율주행 시 특정 상황에서만 실패하는 걸 관찰

토론 질문:

• "한 트랙·한 조명·한 사람의 운전"만 배운 AI는 누구에게 불리할까?
• 현실의 AI 편향 사례(얼굴인식·채용·번역)와 우리 실험의 공통점은?

3차시 — 프라이버시: 카메라는 무엇을 보았나 (face_blur_photos.py)

cd "d:\data\study\AI\Fab-Lab\CAR\Program\auto_car\advanced_lessons"
python face_blur_photos.py --dir <사진폴더>     # 얼굴 자동 블러

• 우리 차가 저장한 주행 사진에 사람 얼굴이 찍혔다면? → 자동 블러로 보호
• "Privacy by Design(설계 단계부터 프라이버시 보호)" 개념 체험

토론 질문:

• 얼굴 말고 또 어떤 개인정보가 영상에 남을까? (번호판·집·창문 너머)
• 자율주행 회사는 이 영상을 얼마나, 누구와 보관·공유해도 될까? 동의는?
• 공공장소 촬영은 어디까지 허용? (CCTV와 무엇이 같고 다른가)

4차시 — 종합 토론 & 우리의 'AI 사용 약속'

형식: 찬반 토론 또는 월드카페(모둠 순회 토론)

주제 예시:

• "완전 자율주행을 학교 주변 도로에 허용해야 하는가?"
• "사고를 줄인다면 AI가 운전 결정을 사람보다 우선해도 되는가?"

산출물: 조별로 '우리 반 자율주행 AI 윤리 약속' 5개 조항 작성·발표 (안전·공정·프라이버시·책임·투명성 관점 포함)

평가 루브릭

항목	우수	보통	미흡
근거	사례·데이터로 주장	일부 근거	느낌만
다양한 관점	반대 입장도 고려	한쪽만	단정
우리 실험 연계	직접 만든 차로 설명	일반론	무관
협력·경청	모두 참여·경청	일부	한두 명

ACT 역량 연계

• T(포용·시민성): 이 단원의 중심 — 기술의 사회적 영향과 책임
• A(자기주도): 스스로 근거를 찾아 자기 입장 정립
• C(창의·협력): 윤리 약속을 조별로 창안

연계: 데이터 편향은 심화A_데이터과학, 안전 정지는 심화C_센서제어, 객체인식 오탐은 심화B_컴퓨터비전 참고.