2023년 11월 6일에 개최된 OpenAI DevDay 발표회에서 OpenAI CEO Sam Altman은 또다시 OpenAI를 뛰어넘어 AI 개발자들에게 새로운 가능성을 열어주었습니다. 이 글을 통해 이번 GPT-4 Turbo가 소프트웨어 개발자들에게 어떤 매력을 가지고 있는지 함께 알아보겠습니다.

OpenAI는 2023년 11월 6일에 OpenAI DevDay 발표회를 개최하였으며, 다른 대형 기술 회사들이 GPT-4의 성능을 따라잡기 위해 고군분투하는 동안, OpenAI CEO Sam Altman은 또다시 OpenAI를 뛰어넘어 AI 개발자들에게 새로운 가능성을 열어주었습니다. 이는 OpenAI가 인공지능 분야에서 선두를 달리고 있음을 충분히 보여줍니다.

강력한 GPT-4 Turbo: 더 빠르고, 더 많은 텍스트 처리량, 그리고 더 저렴한 비용

문맥(Context)은 "대형 언어 모델에 입력되는 프롬프트와 대화의 총 텍스트 양"을 의미합니다. 과거에는 최대 32,000개의 토큰을 지원했으며, 일부 개발자만 사용할 수 있었습니다. 그러나 GPT-4 Turbo는 최대 128,000개의 토큰을 지원하여 300페이지의 책을 한 번에 GPT-4 Turbo에 입력할 수 있게 되었습니다. 속도 면에서, 과거 GPT-4의 가장 큰 단점은 느린 속도였으며, 생성 대기 시간 동안 많은 시간이 소요되었습니다. 그래서 기업들은 여전히 GPT-3.5를 사용하여 대부분의 실제 응용 문제를 해결했습니다. GPT-4 Turbo는 이 문제를 해결하여 생성 속도가 GPT-3.5에 가까워졌으며, 미래에 GPT-4 Turbo를 통합한 시나리오를 풍부하게 만들었습니다. 비용 면에서, 이전 버전의 GPT-4에 비해 프롬프트 비용이 3배 저렴해졌고, 출력 텍스트 비용도 2배 저렴해졌습니다.

개발자에게 더 친숙한 함수 호출(Function calling) 기능

함수 호출(Function calling)이란 무엇인가?

OpenAI는 올해 초 "함수 호출" 기능을 발표하였으며, 이 기능은 개발자가 GPT를 사용할 때 맞춤형 코드 함수를 호출할 수 있게 합니다. 즉, 지능형 AI가 다양한 API와 연결될 수 있어 OpenAI가 사용할 수 있는 영역을 크게 확장합니다. 이 모델의 강력한 성능은 개발자가 프로그램의 여러 명령 인터페이스를 제공하기만 하면, GPT가 어떤 명령을 호출할지 스스로 결정하고 적절한 매개변수를 사용하여 실행할 수 있다는 점에 있습니다.

예를 들어, 스마트 센서 전구 개발자가 두 가지 명령을 제공합니다: "색상 설정"과 "센서 시간대 설정". 색상 설정 명령의 매개변수는 세 가지입니다: 백광, 자연광, 야간등. GPT에 "밤에 적합한 전구를 설정해 주세요"라는 프롬프트를 입력하면, GPT는 자동으로 "색상 설정" 명령을 선택하고 매개변수로 "야간등"을 사용합니다. 이 결정 과정은 전혀 인간의 개입이 필요하지 않습니다. 과거에는 NLP 기술을 사용하여 맞춤형 논리를 작성해야 했지만, 이제는 GPT 프로그램 호출만으로 가능합니다.

이번에 수정된 내용은 무엇인가?

이번 업데이트로 GPT는 어떤 명령과 매개변수를 사용해야 하는지 더 정확하게 판단할 수 있게 되었으며, GPT가 한 번에 하나의 명령만 호출할 수 있었던 점도 개선되었습니다. 과거에는 상황이 복잡할 때 개발자가 프로그램을 추가로 작성하여 함수를 여러 번 호출해야 했습니다. 이번 업데이트로 GPT는 여러 명령을 한 번에 실행할 수 있으며, 각 명령의 결과를 서로 전달할 수 있습니다. 예를 들어, "나는 자정에 일어나 물을 보충하는 습관이 있습니다. 적합한 전구 모드를 설정해 주세요"라는 프롬프트를 사용할 때, GPT는 "색상 설정"과 "센서 시간대 설정" 두 가지 명령을 호출하고, "센서 시간대" 매개변수를 "01:00부터 06:30까지"로 설정하며, "색상 설정"을 사용하고 매개변수를 "야간등"으로 설정할 수 있습니다.

또한, 언어 모델의 이전 응답은 "비특정 형식의 텍스트로 응답"이었으며, 특정 형식으로 응답을 원할 경우 프롬프트에 "xml 형식으로 응답해 주세요"라고 요청해야 했습니다. 그러나 개발자들이 자주 겪는 문제는 응답 형식이 반드시 xml이 아니며, 종종 일부 순수 텍스트가 섞여 형식 변환 시 오류가 발생한다는 점입니다. 이번 GPT-4 Turbo는 개발자가 response_format 매개변수를 설정하여 xml 또는 json 등 일반적인 API 반환 형식으로 설정할 수 있게 하여 프로그램의 안정성을 높였습니다.

마지막으로, OpenAI는 사용자에게 Seed 매개변수를 설정할 수 있는 기능을 허용하여 GPT 응답 내용의 무작위성을 결정합니다. 이 매개변수 설정을 통해 개발자는 언어 모델의 응답을 일관되게 유지할 수 있으며, 테스트 사례 작성 시 더 안심할 수 있습니다(언어 모델이 갑자기 다른 답변을 생성하는 것을 방지). 프로그램의 테스트 가능성과 품질을 높입니다.


위의 두 가지 발표 내용 외에도, 응용 시나리오의 확장 측면에서, 어시스턴트 API의 발표가 DevDay의 주요 하이라이트입니다.

어시스턴트 API(Assistants API)

과거에는 대형 언어 모델을 사용하여 생성형 AI 응용 프로그램을 개발하려면 LangChain과 같은 타사 패키지를 사용하여 대형 언어 모델에 더 고급 기능을 부여해야 했습니다. 예를 들어, 다중 언어 모델 사용, 맞춤형 데이터 처리 능력, 메모리 및 에이전트(Agent, AI가 연속 작업 및 연속 결정을 수행할 수 있는 능력)를 통해 더 복잡한 AI 시나리오 응용 프로그램을 완성할 수 있었습니다.

DevDay에서 발표된 어시스턴트 API는 위에서 언급한 여러 기능을 공식 API에 통합하여 개발자가 타사 패키지 통합 시 겪는 여러 문제를 해결합니다. 이는 공식적으로 대형 언어 모델의 성능을 단순히 최적화하는 것을 넘어 "에이전트"의 응용을 탐색하기 시작한 첫 번째 사례입니다. 공식 문서에 따르면 "어시스턴트는 목표 지향적인 AI로, 이 AI는 특정 명령을 사용하고 외부 데이터를 사용하거나 다른 언어 모델 및 도구를 사용하여 작업을 수행할 수 있습니다."라고 설명하고 있습니다.

새로운 어시스턴트 API는 "함수 호출" 외에도 "코드 인터프리터"와 "데이터 검색"을 제공합니다.

코드 인터프리터(Code Interpreter)

GPT-4의 "코드 인터프리터"는 작성된 코드를 샌드박스 환경에서 실행할 수 있게 합니다(현재는 Python만 지원). 과거에는 엔지니어가 GPT-4의 도움을 받아 작성한 코드를 자신의 개발 환경에 복사하여 테스트해야 했습니다. 그러나 OpenAI가 제공하는 샌드박스 환경은 GPT-4가 스스로 코드의 정확성을 검토하고, 실행 결과에 따라 점진적으로 코드를 수정하여 목표를 달성할 수 있게 합니다.

그러나 코드 인터프리터의 역할은 "GPT-4가 스스로 작성한 코드의 정확성을 검토하는 것"을 넘어섭니다. 그 더 큰 의미는 "대형 언어 모델이 자신의 컴퓨터를 갖게 하는 것"입니다. 컴퓨터는 대부분의 작업을 수행할 수 있습니다. 현재 대형 언어 모델은 명령 프로그램 방식으로 상호작용할 수 있으며, 제한된 샌드박스 환경에서 실행되지만 코드 인터프리터는 특정 타사 패키지만 사용할 수 있지만, "대부분의 Python 프로그래밍 언어가 처리하기에 적합한 작업"을 수행할 수 있습니다. 예를 들어, 데이터 처리 및 API 호출, 사용자가 제공한 더 큰 코드 파일을 읽을 수 있습니다. 샌드박스 환경은 보안 측면에서 대형 언어 모델의 강력한 기능이 남용되지 않도록 방지하며, 따라서 보안성도 일정 수준 보장됩니다.

데이터 검색(Retrieval)

"데이터 검색"은 사용자가 자신의 데이터를 업로드할 수 있게 하여(예: 특정 산업 분야 데이터, 제품 정보 또는 내부 문서) 대형 언어 모델이 이러한 데이터를 기반으로 응답할 수 있게 합니다. 이는 자신의 산업이나 분야에 응용할 수 있습니다. 이 기능은 GPT-3가 등장한 이후로 많은 경쟁이 있었던 주요 포인트입니다. DevDay에서 발표된 데이터 검색은 이 기능에 대해 공식적으로 처음으로 원시 솔루션을 제공합니다. 예를 들어, 기업이 내부 지식 로봇을 구축하려면 AI 프로젝트 관리자, AI 시스템 분석가와 같은 역할을 수행할 수 있습니다. 의료, 금융 등 분야의 고객 서비스 로봇은 과거에는 복잡한 언어 처리 기술을 사용해야 했지만, 이제는 GPT-4의 강력한 언어 모델과 OpenAI의 공식 데이터 검색 기능을 통해 개발자는 비즈니스 논리, 데이터 정확성 및 세부 조정에 집중할 수 있습니다. 또한, 과거에는 타사 패키지를 사용하여 필요한 벡터 데이터베이스, 데이터 세분화 처리 또는 특정 검색 알고리즘이 필요했지만, OpenAI의 공식 지원 덕분에 이러한 개발 절차 및 관련 비용을 추가로 처리할 필요가 없습니다. OpenAI는 또한 어시스턴트 API를 사용하는 대화 및 파일이 OpenAI의 차세대 모델 훈련에 사용되지 않을 것임을 강조했습니다.

결론

전반적으로 OpenAI는 모델의 효율성을 지속적으로 최적화할 뿐만 아니라 대형 언어 모델의 응용을 계속 확장하고 있습니다. Sam Altman은 GPT-5가 단기간 내에 출시되지 않을 것이라고 말했으며, 현재 GPT-4의 정확도로 볼 때 더 큰 파라미터의 언어 모델을 훈련하는 데 추가 비용을 들이는 것은 필요성이 낮아 보입니다. 대신 GPT-4의 성능, 사용 편의성 및 확장성을 높이는 것이 현재 OpenAI의 주요 초점입니다. 개발자, 기업 및 최종 소비자에게는 더 강력하고 다양한 시나리오에서 응용할 수 있는 AI를 도입하는 것이 차세대 디지털 전환의 주요 포인트가 되었습니다. OpenAI가 창조한 GPT는 미래 기술 세계의 두뇌와 같으며, 우리는 앞으로의 창조와 발전이 인공지능이 도구를 더 잘 사용하고, "보고", "듣고", 유창하게 "말하고" "그릴 수 있게" 할 것이라고 믿습니다.