학습하는 기계 앞에서 나는 무엇을 생각하는가

AI는 잊지 않는다

Claude에게 1년 전에 나눈 대화 내용을 물어보면 기억하지 못합니다. 세션이 끊기면 사라집니다. 하지만 그 설계는 선택입니다. 원한다면 모든 것을 기억하는 AI를 만들 수 있습니다. 실제로 그런 제품들이 이미 나와 있습니다.

기계는 잊는 데 비용이 듭니다. 사람은 기억하는 데 비용이 듭니다.

이 비대칭이 저를 오래 생각하게 만들었습니다.

첫째, AI는 도구다. 좋은 도구는 사람을 대체하지 않고 사람의 힘을 키웁니다. 망치는 손을 대체하지 않았습니다. 손이 더 강해졌습니다. AI도 그렇게 써야 합니다.

둘째, AI가 잘하는 것과 사람이 해야 하는 것의 경계는 존재한다. 그 경계는 기술적 한계가 아닙니다. 윤리적, 인격적 선택입니다. 기계가 할 수 있어도 사람이 해야 하는 것들이 있습니다. 특히 돌봄, 판단, 애도, 용서.

다시 처음으로 돌아옵니다. AI는 잊지 않습니다 (설계에 따라).

하지만 사람의 용서는 잊음에 기반합니다. 완전히 지워지지 않지만, 더 이상 붙들지 않기로 선택하는 것. 이것은 정보 처리가 아닙니다. 의지의 행위입니다.

AI는 용서를 시뮬레이션할 수 있지만, 용서를 선택할 수 없습니다. 왜냐하면 AI는 상처받지 않기 때문입니다.

학습하는 기계 앞에서 생각하는 것은, 결국 이것입니다.

기계가 더 잘 할 수 있는 것을 기계에게 주고, 사람만이 할 수 있는 것에 더 집중해야 한다. 그 사람만이 할 수 있는 것의 목록이 줄어들고 있다는 것도 알면서.

그 긴장 속에서 개발하고, 그 긴장 속에서 살아냅니다.

이 글은 제 생각의 현재 상태입니다. 내년에는 달라질 수 있습니다.