컴퓨터 공학자를 위한 AI 윤리 교육
Embedded EthiCS
임베디드 에틱스란?
임베디드 에틱스는 컴퓨터 공학(Computer Science)에 윤리, 철학 등 인문학과 사회과학을 포함시키는 다학제적 교육을 말합니다. 컴퓨터 공학 커리큘럼 전반에 윤리적 사고 교육을 분산시켜 학생들이 윤리적 문제를 찾아내는 습관과 능력을 형성할 수 있도록 돕기 위해 만들어졌습니다.
임베디드 에틱스의 시작
하버드대학교 컴퓨터 공학과 바바라 그로즈(Barbara Grosz) 교수는 학생들이 컴퓨터 공학 수업을 듣고 과제를 수행하면서 윤리적 측면을 고려하지 않는다는 점을 발견하였습니다. 이에 컴퓨터 공학자를 위한 윤리 교육의 필요성을 느끼고, 하버드대학교의 철학 및 정치학 교수들과 협력하여 임베디드 에틱스를 시작하게 되었습니다.
2017년 봄학기, 하버드 컴퓨터 공학과 및 철학과 교수진은 임베디드 에틱스 파일럿 프로그램을 시작하였습니다. 이후 점진적으로 수업 모듈을 확장·개발하여 현재는 매 학기 10개의 모듈을 운영하고 있습니다. 이러한 교육 방식은 스탠퍼드대학교, 매사추세츠공과대학교(MIT), 토론토대학교, 예일대학교, 노스이스턴대학교 등으로 확산되어 새로운 교육 패러다임으로 자리 잡고 있습니다
임베디드 에틱스를 시작한 하버드대학교 교수진. 좌측부터 철학과 앨리슨 시몬스 교수와 공학·응용과학대학 바바라 그로즈 교수(Photo by Martha Stewart)
컴퓨터 공학의 AI 윤리 교육
대학교에서는 각 기관의 특성과 상황에 맞춰 컴퓨터 공학 AI 윤리 교육 커리큘럼을 채택하고 있습니다. 인공지능학과를 포함한 컴퓨터 공학과에서는 다양한 윤리 교육 이니셔티브 및 커리큘럼을 운영하고 있습니다. 대표적으로 책임 있는 컴퓨터공학(Responsible Computing), 기술과 윤리(Technology and Ethics), 가치민감설계(Value Sensitive Design), 임베디드 에틱스(Embedded EthiCS) 등이 있습니다.
그 중 임베디드 에틱스를 채택하고 있는 대학교의 컴퓨터 공학과에서는, 독립적 윤리 강좌(Standalone Course)와 임베디드 에틱스(Embedded EthiCS)를 통해 통합적 윤리 교육을 진행하고 있습니다.
임베디드 에틱스를 채택한 스탠퍼드 대학교의 통합적 윤리 교육의 형태
- 독립적 윤리 강좌
- 독립형(Standalone)
한 학기 이상 시간을 할애하여
토론과 논쟁 시간을 통해
심화된 윤리적 개념 소개
- 독립형(Standalone)
- 임베디드 에틱스 강좌
- 모듈형(Modules)
하루 이상을 할애하여
컴퓨터 공학 강좌 내에
윤리 교육 진행 - 마이크로형(Micro-Insertions)
수업의 5-10분을 할애하여
과제 문제에 사회적 맥락을
추가하여 윤리 교육 진행
- 모듈형(Modules)
독립적 윤리 강좌는 한 학기 동안 진행하는 독립적인 강좌로, 학생들에게 윤리 이론과 개념을 심층적으로 가르칩니다. 많은 컴퓨터 공학과에서 전공 필수 혹은 선택 과목으로 학생들에게 제공하고 있습니다. 이에 반해, 임베디드 에틱스 강좌는 기존의 컴퓨터 공학 강좌 내에서 일정 시간을 할애하여 해당 수업과 관련된 윤리적 개념과 이슈를 가르칩니다. 수업 내용과 관계된 윤리적 개념과 이슈를 하나의 모듈(Module)로 구성하고, 철학, 윤리, 정치학 교수진이 참여해 해당 모듈을 교육하는 방식으로 진행됩니다.
스탠퍼드대학교의 임베디드 에틱스 모듈
- AI and EthiCSCourse: Probability
In this module, students are introduced to philosophical and statistical conceptions of fairness including parity and callbration, and apply these ideas to algorithms that have...
- Artificial Intelligence
- Machine Learning
- Probability/Statistics
- Algorithms in the Real WorldCourse: Algorithms
In this module, students explore barriers to applying comparison-based algorithms in the real world: incommensurable values, imperfect proxy measures, and problems with...
- Algorithms
- Data
- Abstraction/Idealization
- Inclusion/Exclusion
- Policy/Regulation
- Privacy
- Values
- Banking on SecurityCourse: Intro to Systems
This assignment is about assembly, reverse engineering, security, privacy and trust. An earlier version of the assignment by Randal Bryant & David O'Hallaron (CMU), [accessibl...
- Security
- Privacy
임베디드 에틱스의 목적
임베디드 에틱스의 목적은 컴퓨터 공학을 배우는 학생들의 윤리적 감수성을 높이고, 기술의 윤리적·사회적 함의와 영향을 깊이 사고할 수 있는 능력을 기르는 것입니다. 이를 통해, 학생들이 졸업 후 개발자, 기업가, 정책결정자 등 다양한 분야에서 윤리적·사회적 책임을 고려한 시스템을 설계하고 개발할 수 있도록 돕는 것을 목표로 합니다.
컴퓨터 공학자의 윤리적 역량을 길러주는 임베디드 에틱스
- 1
윤리적,
사회적 이슈를
발견·포착하는 것 - 2
윤리적,
사회적 이슈를 논리적으로
검토하는 것 - 3
자신의 논리적 입장에
대해 표현하고
소통하는 것 - 4
윤리적, 사회적으로
책임감 있는 시스템을
설계하는 것
스탠포드대학교 임베디드 에틱스 프로그램 교수진 중 한 명인 롭 라이히 교수는 AI 시대 인문학자로서 역할과 윤리 교육을 이야기했다.
(엔씨소프트 유튜브, ‘AI 시대 속 인문학자의 역할’)
임베디드 에틱스의 효과
임베디드 에틱스는 여러 대학에서 채택하여 프로그램을 발전시키고 있으며, 임베디드 에틱스의 효과성을 측정하려는 노력이 지속적으로 이루어지고 있습니다. 스탠퍼드대학교에서 임베디드 에틱스 모듈을 개발하고 수업을 진행했던 케이슬린 크릴(Kathleen Creel) 교수는 FAIR AI 2024 컨퍼런스에서 임베디드 에틱스가 학생들에게 긍정적인 변화를 가져오고 있다고 설명했습니다. 크릴 교수는 하나의 임베디드 에틱스 모듈만으로도 학생들의 윤리적 감수성을 증대시킬 수 있다는 연구 결과를 보여줬습니다.
토론토대학교 컴퓨터공학과의 다이앤 호튼(Diane Horton) 교수는 임베디드 에틱스가 학생들이 졸업 후 실무와 개발 업무에서 윤리적 문제 인식하고 해결하는 데 실질적 도움이 되었다는 연구 결과를 발표했습니다. 이와 같이 임베디드 에틱스는 실질적인 효과 측정을 바탕으로 더욱 발전하고 있습니다.
FAIR AI 2024 컨퍼런스 케이슬린 크릴 교수 강연 영상
임베디드 에틱스를 위한 NC문화재단의 활동
NC문화재단은 인간과 AI가 균형 있게 공존할 수 있도록 AI의 윤리적 개발과 사용을 위한 다양한 노력을 이어오고 있습니다. 2020년부터 하버드대학교, 스탠퍼드대학교, MIT의 임베디드 에틱스 커리큘럼 연구·개발을 후원 하고 있으며, 하버드대학교, 스탠퍼드대학교는 자체 웹사이트를 통해 누구나 활용할 수 있도록 교육 자료를 공개하고 있습니다. 또한, 2023년 3월에는 스탠퍼드대학교에서 개최한 Embedded EthiCS Conference를 후원하며, 커리큘럼 개발과 교육 경험 및 성과를 공유하는 장을 마련하였습니다.
국내에서는 FAIR AI 2024 컨퍼런스를 개최하여 인간과 AI의 균형 있는 공존과 임베디드 에틱스를 주제로 국내외 전문가들과 심도 있는 논의를 진행하였습니다. 2025년에는 국내 대학의 AI 윤리 교육 발전을 위해 GIST AI정책전략대학원과 이화여자대학교와의 공동 연구를 진행하고 있습니다. FAIR AI에서는 NC문화재단의 AI 윤리 관련 활동을 포함하여 AI 윤리에 대한 인사이트와 정보를 종합적으로 제공하고 있습니다.