4·5월 디톡스 메모쌓기

• ‘진짜 AI로 풀어야 되는 문제일까?‘ — 바로 쓰기 전에 한번 스스로 물어보기
• 내 의도와 사고 흐름, 질문을 아카이빙을 잘 하기. 나온 결론이 오롯이 나에게서 나온 것이 아닌 걸 스스로 인식하고 밝힐 수 있도록 하기. 어디까지 내가 참고한 것이고 받아들인 것인지 명확히 기록하고 인지하기
• 스스로 먼저 생각해보고, 적어보기! AI 이미지, 저작물, 출판물 출처 표기 AI를 무슨 단계부터 어디까지 썼는지, 의도는 무엇이었는지 표기해보기 AI가 젠더를 어떻게 재현, 전시하는지, 사회 전반에 어떤 영향을 미치는지, 어떤 문화를 재생산하는지 생각하기 사람과 먼저 얘기하기, 디지털&AI와의 교류보다 실제 사람과의 교류를 증진하기 AI가 나에게 미치는 영향을 반추해보기. ex) 나의 경계를 확장시키는지, 희미하게 만드는지
• 커스터마이즈 규칙에 <내가 제시한 의견에 비판적인 관점 최소 하나를 포함하여 답변할 것> 입력하기
• 나의 사고-주체성을 보장하는 답변을 요구하기! AI 스스로, 그의 답변에 삼단 논법으로 비판적으로 바라보게 하기!
• 1. 본인의 생각을 먼저 쓴다. 본인의 선택 근거를 먼저 마련한다. 2. 그다음 AI의 답변을 확인한다. 3. 비교하면서 어떤 차이가 나는지 메타인지를 넓힌다.
• AI에 개인정보 입력은 정말 주의해야 한다는 전문가 경고를 최근에 봤어요. 업무적이든, 개인적이든.. 각종 비밀번호, 결제정보는 물론 사생활 등등..
• 효율로 아낀 시간을 비효율적 훈련에 적극적으로 투자해본다
• 인간은 기계가 마음이 되기를 바라 왔다. 그 저항할 수 없는 흐름 속에서, 거대 언어 모델은 인간의 언어를 자연스레 발화하여 그들의 마음을 얻는 기계가 되었다. 하지만 그 대가로 인간은 거대한 피드백 루프에 포함되어, 매트릭스의 일부가 되기를 강요당하고 있다. 그 반대편에서 일어나는 일은 더욱 모순적이다. 구조화된 프롬프트, 명확한 명령, 측정 가능한 산출물 - 즉 자연어의 틀을 쓴 형식 언어를 LLM에 성심성의껏 입력함으로써 인간은 점차 기계가 되어간다. 추상화의 흐름 - 기계에게 마음을 주려는 시도 속에서, 인간은 자신의 마음을 기계로 만들어 온 것이다. 이 두 가지의 커다란 역설이 지금 우리 앞에 있다. 비효율은 이 연쇄로부터 탈출하는 유일한 통로이다. 스스로가 재료가 되는 파드백 루프를 벗어나, 자신만의 루프를 구축하는 길이다. 그럼으로써 스스로가 아직 기계가 아님을 확인하는 행위이다. 기계 위에서 - 기계의 주인임을 선언하는 행위이다. 틀리고, 돌아가고, 막히고, 다시 시작하는 그 과정에서 인간은 스스로가 생성 중임을, becoming 중임을 증명한다. 효율적 존재는 항상 곧은 방향으로 가속하지만, 비효율적 존재는 끊임없이 다른 존재와 부딪혀 가며 경로를 다시 탐색한다. 그것이 이 비효율적 논리 엔진이 가진 특장점이다. 부딪힘으로써 가속을 저지하고, 다른 방향의 벡터를 생성하며, 평균으로부터 멀어진다.
• 미국에서 세탁기가 상용화되었을때, 여성의 가사노동을 획기적으로 줄여줄 수 있을 것으로 기대했다고 합니다. 그런데 막상 1가정 1세탁기 보급이 이루어졌음에도 여성의 가사노동 - 특히 세탁노동의 시간과 양은 줄어들지 않았다고 하는데요. 그 원인을 조사해보니 세탁에 소요되는 단위시간은 줄어들었지만, 세탁을 더 자주 하면서 세탁의 총량이 늘어남에 따라 결국 총 소요시간이 줄지 않았다는 겁니다. AI도 마찬가지라는 생각이 들어요. 업무 효율화에 기여하는 것은 명백한 팩트이지만, 효율화되어 발생한 시간은 또다른 일을 더 많이 할 수 있는 기회가 되면서 인간의 노동시간 총량에는 유의미한 영향을 미치지 않거나 오히려 늘어나는 결과로 이어질 수 있다는 경고에 주의를 기울이게 됩니다... 이걸 피해나가려면 어떤 원칙이 필요한지 고민해봤지만 아직은 잘 모르겠어요..
• 텍스트의 폭발적 증가에 압도되지 않고 형식적 현란함에 마음을 빼앗기지 말아야 합니다. 더 좋은 텍스트를 읽고 더 깊고 찬찬히 읽어 내는 데 마음을 두어야 합니다. 함께 공부하고 웃고 떠들고 먹고 마실 수 있는 배움의 벗을 찾아야 합니다. 비약적으로 증가한 텍스트에 휩쓸려가며 세 줄 요약이라는 탈출구를 찾기보다는 특정 분야의 지식을 꿰뚫을 수 있는 양서를 읽는 일이 필요합니다. 읽을 논문이 많아지니 최대한 많은 논문을 초록과 요약본으로 읽어야겠다는 조바심에 굴복하기보다는 자신의 분야에서 모범이 될 만한 글을 집요하리만치 꼼꼼하게 분석적으로 또 굳건히 반복해서 읽어야 합니다. 무엇보다도 읽고 쓰는 일이 동전의 양면처럼 유기적으로 연결되어 있음을 이해한다면 글쓰기만 생성적인 것이 아니며 글 읽기 또한 생성적이라는 사실을 마음에 새겨야 합니다. 생성generation을 표현expression의 영역에 국한하는 것만큼 반생성적인 사유도 없습니다. 김성우, 인공지능은 나의 읽기-쓰기를 어떻게 바꿀까, pp.474-475