[Future Hands up] 프롬프트 엔지니어링의 새로운 국면이 시작되다

2022년 11월, LLM(Large Language Model)의 시조새 격인 챗GPT 3.5가 세상에 처음 공개되었을 때, 앞으로 인간에게 가장 필요한 역량은 ‘프롬프트 엔지니어링 (Prompt Engineering) 이 될 것이라고 모두가 외쳤다.

‘프롬프트 엔지니어링이란 AI에게 더 좋은 답을 얻기 위해 질문을 설계하는 능력이다. 단순히 묻는 것이 아니라 어떤 관점이나 조건 혹은 목표로 답하길 원하는지를 반영하여 묻는 기술이다.’

◆ 컨텍스트 엔지니어링 (Context Engineer)

그런데 프롬프트 엔지니어링 기술을 끊임없이 연마하던 필자에게 날벼락이 떨어졌다. 2025년 8월, 챗GPT 5.0의 등장은 소위 ‘개떡같이 말해도 찰떡같이 알아듣는’ 인공지능의 시대를 열었고, 프롬프트 엔지니어링의 정교함은 그 의미가 퇴색되었다. 동시에 그 중요성이 부각된 것이 바로 ‘컨텍스트 엔지니어링’ 이다.

‘컨텍스트 엔지니어링은 AI가 더 똑똑하게 판단하도록 필요한 배경정보와 상황을 적절히 제공하는 능력이다. 즉, 질문을 잘하는 것을 넘어 AI가 어떤 맥락 위에서 생각하게 할지를 설계하는 것이다.’

컨텍스트 엔지니어링의 중요성을 설명하는 영상의 댓글 중에 인상적인 것이 하나 있었다. ‘AI에게 어떠한 질문을 할지 고민하는 것은 버르장머리 없는 일이다. 이제는 우리가 AI 님 에게 무엇을 제공해 드릴 수 있을까 고민해야 한다.’

연산과 추론능력이 뛰어난 AI가 열일하기 위해서 우리는 ‘의미 있는’ 데이터를 제공해 줄 의무가 생긴 것이다. 할루시네이션이라 불리던 AI의 거짓말은 인간이 제공한 데이터의 허술함에서 출발한 것이고, AI의 정확성을 높이기 위해 필요한 것은 오히려 인간의 정교한 데이터 및 환경의 제공이 되었다.

◆ 앰비언트 컴퓨팅 (Ambient Computing)

그런 줄 알았다. 데이터와 환경을 제공해 주는 능력이 제일 중요하다고. 그런데 이제는 그것도 의미 없다는 듯 2차 날벼락이 떨어졌다. 앰비언트 컴퓨팅이 있기 때문에 더 이상 입력할 필요가 없다고 한다.

‘앰비언트 컴퓨팅이란 사람이 따로 명령하지 않아도 컴퓨터 스스로가 주변 상황을 이해하고 반응하는 기술이다. 즉, 컴퓨터에 ‘입력하는’ 것이 아닌 컴퓨터 스스로가 환경 속에 자연스럽게 녹아 보이지 않게 작동하는 방식이다.’

AI 존재 자체가 입력이기 때문에 물리적인 입력이 필요 없다는 충격적인 소식이다. 앞으로는 AI가 주체적으로 필요에 따라 데이터를 광범위하게 수집할 것이다. 기반 데이터를 제공해 준 휴대폰 AI 앱에 의도적으로 질문하여 답을 얻는 현재의 방식에서, Meta의 Smart Glass 처럼 AI스스로가 다양한 배경정보 및 데이터를 인식 후 먼저 사용자에게 필요한 답을 제안하는 방식으로 진화하는 중이다.

◆ 다시 프롬프트 엔지니어링으로

혼란스럽다. 과연 이러한 방식의 급격한 진화가 인간에게 더 나은 미래를 가져다 줄 수 있을까? 필자가 제일 먼저 드는 걱정은 ‘의사결정 근육의 약화’ 이다. AI의 광범위적 데이터 분석과 자율적 의사결정은 인간에게 균형 잡힌 선택을 제공해 주지만 이는 인간의 자율성 약화를 뜻하기도 한다. 그럼 과연 어떠한 점이 좋아질 수 있을까? 의사 결정의 질은 높아질 것이다. 그런데 이러한 AI의 추천에 의존한다면 모든 결정이 평균값에 수렴하게 될 텐데 균형 잡힌 결정이라는 것이 항상 좋은 것일까?

필자는 모든 것이 주어진 보편화 시대에서는 균형 잡힌 결정보다는 의미 있는 집중적 의사 결정이 더 중요할 것이라 본다. 오히려 정보 입력 측면에서 선별적 제한을 통해 입력을 통제해야 한다는 것이다. 이는 균형 잡힌 보편적 결정보다 훨씬 뾰족한 결과를 얻을 수 있게 해 줄 것이다.

그래서 결국 ‘프롬프트 엔지니어링’ 이다. 하지만 그 방식이 전과는 사뭇 다르다. 무엇을 질문할지에 대한 기술적 스킬 중심에서, 이제는 무엇을 통제할지에 대한 거버넌스적 설계 스킬 중심으로 새로운 국면이 열렸다. 우리는 앞으로 무엇을 줄지 보다 무엇을 덜어 낼지에 대해 주체적으로 고민하여 AI에게 지시해야 한다. 이것이 우리가 AI에게 자율성을 뺏기지 않고 의미 있는 의사결정을 내리기 위한 새로운 진화일 것이다.

* 칼럼니스트 ‘쿠자’는 소통 전문가를 꿈꾸며 신문방송학을 전공하였고, KBS 라디오 DJ를 거쳐, 외국계 대기업의 인사업무를 담당하며 역량을 키워왔습니다. 다양한 강의와 공연을 통해 소통의 경험을 쌓아온 쿠자는 현재 사물과 현상의 본질을 파악하는 능력과 더불어 코칭이라는 깨달음을 통해 의미 있는 소통 전문가가 되고자 합니다.