AI 시대의 문해력, 프롬프트로 시작하다 - '최고의 프롬프트 엔지니어링 강의'를 읽고

 지난주, 구글에서 제미나이 2.5를 발표했다. 구글은 이번 모델이 지금까지 출시된 모든 생성형 AI를 압도하는 성능을 보여준다고 대대적으로 홍보했다. 이 책이 처음 출간된 시점은 2024년 6월로, 당시만 해도 OpenAI의 ChatGPT가 시장을 주도하고 있었다. 그러나 1년도 채 지나지 않아, 또 다른 강력한 성능의 LLM(대규모 언어 모델)이 등장한 것이다.

이처럼 시간이 흐르는 동안, 발전한 건 LLM만이 아니었다. 동영상 생성, 이미지 생성, 코드 리뷰 등 다양한 분야에서 특화된 AI들이 잇달아 출시되었고, 사용할 때마다 놀라움을 금치 못했다. 특히 SORA의 동영상 생성 기술을 봤을 때는 ‘이게 정말 가능한 일인가?’ 싶을 정도로 입이 다물어지지 않았다.

LLM의 중요성은 날이 갈수록 커지고 있으며, 그중에서도 ‘프롬프트 설계’는 이제 기본 역량으로 자리 잡아가고 있다는 생각이 들었다. 그런 이유로 이 책을 읽어보기로 했고, 내용은 생각보다 술술 읽혀서 그리 오래 걸리지는 않았다. 이 책은 특히 대화형 프롬프트를 보다 효과적으로 활용하는 노하우를 중심으로 다루고 있다.

예를 들어,
• LLM을 어떤 상황에서 활용할 수 있는가?
• LLM을 사용할 때, 어떤 방식으로 프롬프트를 구성하면 좋은가?
• 프롬프트를 테스트하고 개선하는 방법은 무엇인가?

와 같은 주제들을 다룬다.
책에는 아주 사소하지만, 실제로 직접 작성해보지 않으면 알기 어려운 실용적인 팁들이 포함되어 있다.
예를 들어 문맥을 어떻게 제공하느냐에 따라 응답의 질이 달라진다. 거칠게 말하면, LLM에게 A부터 Z까지 친절히 설명해주면, 그만큼 의도에 맞는 답변을 얻을 수 있다는 것이다.

이 과정에서 ‘제로샷’, ‘원샷’, ‘퓨샷’처럼 예시를 점차적으로 늘려가는 방식이나, ‘Chain of Thought(CoT)’처럼 사고 과정을 유도하는 방식, 오프닝 질문을 통해 자연스럽게 생각을 유도하는 방식 등도 배울 수 있었다.

이런 다양한 테크닉을 활용하더라도 결국 가장 중요한 건, 프롬프트를 계속 실험하고 개선해나가는 반복적인 과정이라는 점이다. 이제 ChatGPT나 Gemini 같은 도구는 생활과 떼려야 뗄 수 없는 존재가 되어가고 있다. 이 시점에서 우리는 ‘더 잘 사용하는 방법’에 대해 진지하게 고민하고, 실천해볼 때가 된 것 같다.