감정 AI의 오류와 안전장치 연구하기사람이 통제할 수 있는 감정 AI 연구

• 감정 기술의 과장된 주장 확인하기 조사·예측 카드
• 학문 분야 지도와 주장 감사표
• 행동·평정 증거 차트

Adaptive Study Assistant가 주장할 수 있는 범위와 금지 경계를 정의합니다.

오늘 학생은 감정 기술의 과장된 주장 확인하기 미션을 수행했습니다. 조사: Kansei engineering, human factors, UX/HCI, persuasive design, affective AI의 질문·증거·한계를 비교합니다. 결과물: 학문 분야 지도와 주장 감사표. 확인 증거: 주장 분류 일치도, 근거 유형, 수정 문구, 남은 불확실성. 결과를 근거로 한 기능을 개선하고, 사람을 평가하지 않는 원칙과 접근성·개인정보·사용자 통제의 한계를 함께 설명했습니다.

• 관찰 가능한 측정 기준 정하기 조사·예측 카드
• 구성개념 정의 카드와 측정 계획
• 행동·평정 증거 차트

Adaptive Study Assistant가 다룰 지원 필요와 성공을 조작적으로 정의합니다.

오늘 학생은 보이지 않는 경험을 관찰 가능한 기준으로 정하기 미션을 수행했습니다. 조사: 구성개념을 자기 보고, 행동, 과업 성능, 맥락 지표로 나누고 각각의 타당도 위협을 표시합니다. 결과물: 구성개념 정의 카드와 측정 계획. 확인 증거: 지표 간 일치·불일치, 타당도 위협, 맥락 변수, 해석 한계. 결과를 근거로 한 기능을 개선하고, 사람을 평가하지 않는 원칙과 접근성·개인정보·사용자 통제의 한계를 함께 설명했습니다.

• 개인정보의 수집·사용·삭제 과정 그리기 조사·예측 카드
• 동의 화면, 데이터 흐름 지도, 삭제 규칙
• 행동·평정 증거 차트

Adaptive Study Assistant의 최소 데이터 흐름과 사용자 권리 경로를 승인받습니다.

오늘 학생은 이해하고 철회할 수 있는 동의 화면 만들기 미션을 수행했습니다. 조사: 입력, 처리, 저장, 접근, 수정, 삭제, 보관 기간을 데이터 흐름 지도에 추적합니다. 결과물: 동의 화면, 데이터 흐름 지도, 삭제 규칙. 확인 증거: 핵심 정보 발견, 동의 선택, 철회 단계, 삭제 성공, 수집 항목 수. 결과를 근거로 한 기능을 개선하고, 사람을 평가하지 않는 원칙과 접근성·개인정보·사용자 통제의 한계를 함께 설명했습니다.

• 알림이 많은 화면에서 중요한 신호 찾기 조사·예측 카드
• 신호 탐지와 작업부하 분석
• 행동·평정 증거 차트

Adaptive Study Assistant의 결과를 보고 다시 고치는 정보·알림이 중요한 정보를 가리지 않도록 인간공학 기준을 정합니다.

오늘 학생은 알림이 많은 화면에서 중요한 신호 찾기 미션을 수행했습니다. 조사: 신호 탐지, 경보 피로, 시각 위계, 작업부하를 정의하고 누락·오경보 비용을 구분합니다. 결과물: 신호 탐지와 작업부하 분석. 확인 증거: 적중률, 누락, 오경보, 반응 시간, 간이 작업부하. 결과를 근거로 한 기능을 개선하고, 사람을 평가하지 않는 원칙과 접근성·개인정보·사용자 통제의 한계를 함께 설명했습니다.

• AI 추천이 실패할 수 있는 단계 지도 만들기 조사·예측 카드
• 시스템 구조도와 실패 지점 지도
• 행동·평정 증거 차트

Adaptive Study Assistant의 전체 구조, 불확실성, 결과를 보고 다시 고치는 정보, 삭제 경로를 설계합니다.

오늘 학생은 AI 추천이 실패하는 단계와 안전장치 그리기 미션을 수행했습니다. 조사: 입력, 전처리, 모델·규칙, 불확실성, 응답, 사용자 결과를 보고 다시 고치는 정보, 저장, 삭제를 물리 카드로 배열합니다. 결과물: 시스템 구조도와 실패 지점 지도. 확인 증거: 실패 지점, 탐지 신호, 안전 기본값, 사용자 통제, 데이터 수명. 결과를 근거로 한 기능을 개선하고, 사람을 평가하지 않는 원칙과 접근성·개인정보·사용자 통제의 한계를 함께 설명했습니다.

• 사람과 AI의 문장 판단 차이 분석하기 조사·예측 카드
• 주석 표, 모델 지표, 불일치 분석, 안전 응답 사람과 프로그램이 소통하는 화면
• 행동·평정 증거 차트

Adaptive Study Assistant가 텍스트 단서를 사용할 때 판단 보류·질문·수정·중단을 설계합니다.

오늘 학생은 사람과 AI의 문장 판단 차이 분석하기 미션을 수행했습니다. 조사: 20~40개 합성 문장을 독립 라벨링하고 사람 간 불일치, 비꼼, 공손함, 코드 스위칭, 맥락을 분석합니다. 결과물: 주석 표, 모델 지표, 불일치 분석, 안전 응답 사람과 프로그램이 소통하는 화면. 확인 증거: 인간 불일치, 모델 오류, 언어 한계, 불확실성, 수정·opt-out, 시스템 카드. 결과를 근거로 한 기능을 개선하고, 사람을 평가하지 않는 원칙과 접근성·개인정보·사용자 통제의 한계를 함께 설명했습니다.

• Signal-Context Multiplicity Lab 조사·예측 카드
• 구성 타당도 비평과 데이터 모음 위험 기록
• 행동·평정 증거 차트

Adaptive Study Assistant에서 제외할 추론과 사용자 확인이 필요한 경계를 정합니다.

오늘 학생은 관찰 신호와 사람의 실제 마음 구분하기 미션을 수행했습니다. 조사: 얼굴 움직임, 자세, 음성 특성, 생리 신호가 관찰 가능한 신호인지 구성개념인지 구분합니다. 결과물: 구성 타당도 비평과 데이터 모음 위험 기록. 확인 증거: 가능 맥락 수, 반증 사례, 확인 질문, 구성 타당도 위협. 결과를 근거로 한 기능을 개선하고, 사람을 평가하지 않는 원칙과 접근성·개인정보·사용자 통제의 한계를 함께 설명했습니다.

• AI가 모른다고 알리는 화면 만들기 조사·예측 카드
• 인간 통제 사람과 프로그램이 소통하는 화면과 사용성 증거
• 행동·평정 증거 차트

Adaptive Study Assistant에 불확실성, 이유, 수정, 재정의, 중단 기능을 확인합니다.

오늘 학생은 AI가 모를 때 멈추고 묻게 하는 화면 만들기 미션을 수행했습니다. 조사: 확률, 범주, 예시, 이유, 판단 보류 표현이 이해·과신·행동에 미치는 차이를 분석합니다. 결과물: 인간 통제 사람과 프로그램이 소통하는 화면과 사용성 증거. 확인 증거: 확신 이해, 적절한 의존, 수정 성공, override·opt-out 발견, 선호. 결과를 근거로 한 기능을 개선하고, 사람을 평가하지 않는 원칙과 접근성·개인정보·사용자 통제의 한계를 함께 설명했습니다.

• 결과를 보기 전에 연구 계획 점검하기 조사·예측 카드
• 승인된 build dossier
• 행동·평정 증거 차트

Adaptive Study Assistant 구현 전에 연구·데이터·시스템·윤리 기준을 동결합니다.

오늘 학생은 연구 계획과 프로그램 구조 미리 점검하기 미션을 수행했습니다. 조사: 연구 질문, 가설, 표본, 변수, 측정, 교란, 동의, 데이터 관리, 구조, 위험의 연결을 peer review합니다. 결과물: 승인된 build dossier. 확인 증거: 질문-지표 정렬, 교란, 동의, 안전 게이트, 재현 가능성. 결과를 근거로 한 기능을 개선하고, 사람을 평가하지 않는 원칙과 접근성·개인정보·사용자 통제의 한계를 함께 설명했습니다.

• 사용자가 통제하는 AI 만들기 조사·예측 카드
• 작동 시험용 작품과 테스트 스크립트
• 행동·평정 증거 차트

Adaptive Study Assistant의 최소 작동 시스템과 안전 통제를 구현합니다.

오늘 학생은 사용자가 통제하는 시험용 AI 만들기 미션을 수행했습니다. 조사: 기능을 must/should/could로 자르고 결정론적 바꾸기 전 기준 결과와 AI·적응 기능의 추가 가치를 분리합니다. 결과물: 작동 시험용 작품과 테스트 스크립트. 확인 증거: acceptance pass, 실패 복구, 통제 경로, 삭제 확인, 접근성. 결과를 근거로 한 기능을 개선하고, 사람을 평가하지 않는 원칙과 접근성·개인정보·사용자 통제의 한계를 함께 설명했습니다.

• 실패 사례를 모아 원인 분석하기 조사·예측 카드
• 결과 표와 그래프로 나타내기와 limitation log
• 행동·평정 증거 차트

Adaptive Study Assistant를 파일럿하고 실패 증거로 최종 개선합니다.

오늘 학생은 작은 사용자 시험에서 실패 원인 찾기 미션을 수행했습니다. 조사: 소규모 동의 기반 파일럿의 순서 효과, 표본 한계, 결측, 사람 간 차이를 계획합니다. 결과물: 결과 표와 그래프로 나타내기와 limitation log. 확인 증거: 과업 지표, 사용자 평정, 실패 유형, 반례, 불확실성, 한계. 결과를 근거로 한 기능을 개선하고, 사람을 평가하지 않는 원칙과 접근성·개인정보·사용자 통제의 한계를 함께 설명했습니다.

• 연구 포스터의 근거와 한계 발표하기 조사·예측 카드
• 연구 포스터, 포트폴리오 사례 연구, 같은 방법으로 다시 확인할 수 있는 시험용 작품
• 행동·평정 증거 차트

Adaptive Study Assistant의 가치, 증거, 한계, 안전한 사용 범위를 최종 방어합니다.

오늘 학생은 최종 프로젝트의 결과와 한계 발표하기 미션을 수행했습니다. 조사: 연구 질문, 방법, 구조, 데이터, 결과, 불확실성, 윤리, 접근성, 한계, 재현 자료를 최종 감사합니다. 결과물: 연구 포스터, 포트폴리오 사례 연구, 같은 방법으로 다시 확인할 수 있는 시험용 작품. 확인 증거: 재현성, 지표 해석, 실패 설명, 통제 작동, 윤리·한계 방어. 결과를 근거로 한 기능을 개선하고, 사람을 평가하지 않는 원칙과 접근성·개인정보·사용자 통제의 한계를 함께 설명했습니다.