[슬기로운 AI 활용 생활 ➀] 스타트업 대표는 어떤 AI를 쓸까?

생성형 AI는 더 이상 ‘첨단 기술’이라는 단어로 포장된 미래가 아닙니다. 이제는 누구나, 어디서나, 필요할 때 꺼내 쓰는 일상 도구가 되었습니다.

그런데 그걸 ‘어떻게, 얼마나, 어디까지’ 잘 써먹느냐는 또 다른 이야기입니다.

이 기획은 현실에서 활용되고 있는 생성형 AI의 생생한 활용법을 담았습니다. 현재 AI는 거의 모든 곳에서 활용되고 있습니다. 코드를 짜고, 제안서를 만들고, 투자를 유치하고, 새로운 시장을 탐색하고, 고객을 만나고, 보고서를 쓰고, 마케팅 메시지를 정할 때 AI를 자연스럽게 호출합니다. 아니, 거의 모든 순간에 “AI를 일단 던져보는” 것에서 시작합니다.

때로는 코딩 파트너로, 때로는 논문 요약가로, 또 어떤 날은 외국어 회화 연습 친구로. 이들은 AI를 도구이자 동료로 삼아, 자신의 한계를 조금씩 확장해갑니다.

우리가 만난 사람들은 거창한 혁신을 이야기하지 않습니다. 다만, 일이 훨씬 빨라졌고, 더 나은 선택을 하게 됐고, 덜 지치게 됐다고 말합니다.

그리고, 그게 곧 기술이 사람에게 주는 가장 현실적인 변화 아닐까요? 당신은 AI를 어디까지 써봤나요? <바이라인네트워크> 9주년 창간 기획 [슬기로운 AI 활용 생활]을 통해, AI를 어떻게 ‘내 일’에 쓰면 좋을지, 영감과 실마리를 얻어보시길 바랍니다.

“일단 GPT한테 던져요”

로봇의 눈, 3D 카메라를 만드는 스타트업 ‘클레’의 이진한 대표는 제품을 개발할 때 종종 프로토타입을 위한 코딩을 직접 해본다. 3D 카메라 신제품을 개발하거나, 혹은 새로운 기능을 추가할 때는 제품이 어떻게 작동하는지 빠르게 알아보고 오류를 잡아 내야 한다. 이때는 여러 번 속도 내 테스트를 해봐야 하니, 이 대표도 꽤 많은 시간을 요 작업에 할애해야 했다.

얼마전부터는 이 작업이 편해졌다. “빠르게 만들어보고 싶다”는 생각이 들 때면 일단 필요로 하는 사양을 생성형AI 챗봇에 집어 넣고 코드를 짜달라 요청하면 되서다. 이 대표가 이용하는 챗봇은 마이크로소프트(MS)의 ‘코파일럿’과 오픈AI의 챗GPT 4o, o3-mini다. GPT 4o는 대부분의 검색 작업에서 좋은 성능을 내고, o3-mini는 코딩에 특화했다.

소감은? “기가 막히다”다. 그가 평가하기에, 지금 수준의 생성형 AI는 ‘2~3년차 주니어 개발자’에 버금간다. 주니어 개발자를 기준으로, 그가 챗봇이 내놓은 코딩 작업물의 점수는 90점 이상이다.

물론, 챗봇이 가끔 자신의 요청(프롬프트)을 마음대로 해석하는 경우가 있어, 결과물을 보고 설명을 다시 해야 하는 과정이 너다섯번 오가기도 한다. 그는 “챗봇의 특성상 모호하면 다시 물어보는 게 아니라, 무조건 대답해야 하는 강박이 있다”면서도 “결과물을 보고 보다 구체적으로 프롬프트를 쓸 수록 좋은 결과물을 가지고 온다”고 말했다.

입찰, 사업, 투자 유치를 위한 제안서 작성

다만, o3-mini와 같은 챗GPT 모델 중에는 사용횟수에 제한이 있는 것이 있으므로, 목적에 따르 AI챗봇을 적절히 섞어 쓰는 것이 좋다. 김기중 컨포트랩 대표는 제안서 초안을 작성할 때 ‘논리적으로 상대방을 설득해야 하는 경우’ 고급 이성을 사용하는 o1과 o3-mini를 혼용한다.

컨포트랩은 ‘노코드 산업용 데이터 인프라 솔루션’을 만든다. 조금 더 쉽게 설명하자면, IoT 무선 장비를 만드는 곳이다. 주로 소규모 공장을 비롯한 산업 현장이나 공공에서 쓰기 때문에 김 대표가 ‘우리 제품을 써달라’ 제안서를 만들어야 하는 일이 잦다. 제안서의 문장들은 “아직 아날로그에 머물러 있는 당신의 공장을 왜 디지털화해야 하는지” 상대를 잘 설득할 수 있어야 한다.

설득력 있는 제안서를 쓰는데 왜 AI가 필요할까? 소규모 스타트업은 일당백으로 일해야 생존할 수 있는 조직이다. 컨포트랩의 현재 직원은 총 여섯명. 김 대표는 ‘생산성’을 고려할 수밖에 없다. 회사의 대표 입장에선 제안서의 ‘핵심 아이디어’와 ‘실행 방법’만 정확하게 말해주면 누가 디테일한 설명은 알아서 써줬으면 좋겠단 생각이 든다. 초안 작성과 리뷰, 자료 검색은 물론 중요한 일이지만 시간을 많이 잡아먹는 실무를 요구해서다.

예컨대, 이런 것이다. 지금 당장 김 대표가 자신의 머릿속에 떠오른 내용을 정리하기 위해서는 큰 구조를 잡고, 각 항목의 주장을 뒷받침하기 위한 논리를 세워야 한다. 그리고 그 논리를 뒷받침하기 위한 데이터를 찾아야 한다. 포맷을 짜고 초안이 제대로 잡혔는지 리뷰하고, 부족한 부분을 수정한다. 정말로, 지난한 작업이다.

이 일은 요즘 GPT가 한다. 김 대표는 보통 챗GPT에 “전체적인 목차를 주고, 각 목차의 목표에 맞춰 제안서를 어떻게 써야 하는지”를 주문한다. “대제목 1번에 대해서는 어떠한 내용이 들어가야 한다”고 구체적으로 주문하는 편이다.

그렇지 못할 경우, GPT가 대충 읽으면 그럴싸한 똥글을 자기 마음대로 지어내기 때문이다. 한 번에 전체를 다 써달라고 하면 이런 오류가 발생할 수 있으니, “이 항목에 대해서는 직전 항목의 컨텍스트에 들어간 이러한 맥락을 반영해, 저러한 포맷에 맞춰 특정 논리를 보강해 작성해 달라”고 말하는 것이 좋다는 이야기다. 그는 “예전 같으면 제안서 한 개를 쓸 시간에 서너개는 쓸 수 있다”고 말했다.

참고로, 현재 챗GPT 프로 구독자는 o3-mini나 o1 모델을 제한없이 쓸 수 있으나 챗GPT플러스와 팀 플랜 구독자는 o3-mini 하루 150개, o3-mini high는 주당 50개, o1 주당 50개의 메시지를 보낼 수 있다. 자원에 제한이 있으니, 참고하시길.

정보가 생명, 새로운 소식을 찾고 정리해 먹여준다

스타트업 대표들은 본인이 직접 사업 아이디어도 내고, 개발도 하고, 영업도 하고, 마케팅도 한다. 바쁘다. 그렇다고 새로운 정보를 소홀히 할 수도 없다. 요즘은 AI 안 한다는 테크 회사는 없는데, 날마다 새로운 AI 기술이 나오고, 관련 뉴스가 업데이트 된다.

김석규 텔레리안 대표(=사진)는 종종 업계의 구루들이 나오는 유튜브 영상을 보면서 공부하지만, 시간이 없을 때는 해당 유튜브 링크를 구글 노트북 LM에 집어 넣는다. 노트북 LM은 영상의 내용을 텍스트로 일목 요연하게 정리하기도 하는 데다, 내용을 직관적으로 알 수 있도록 마인드맵을 만들어내기도 해서다.

그러나 김 대표가 노트북LM을 더 높이 평가하는 것은, AI나 로봇 관련 논문을 읽을 때다. 텔레리안은 원래 카메라 센서와 비전 기술을 확보하고 있는 곳인데, 요즘은 각 회사에서 원하는 로봇을 최적화해 만들어 공급하는 일을 한다. 새로운 소식이 늘상 나오는 분야라 당연히 관련 논문을 살펴봐야 하는 경우가 많다.

이때 노트북LM이 유용하다. 노트북LM은 두꺼운 문서의 핵심 내용을 파악, 가상의 인터뷰를 만들어 팟캐스트 형식으로 제공한다. AI가 진행자와 패널을 임의로 만들어서 논문의 중요 내용을 대화하는 형식으로 정리해 이용자에게 링크로 전달한다. 다만, 아직 팟캐스트 기능을 영어로만 제공한다는 것은 함정.

AI를 잘 쓰면, 내가 필요한 정보만 잘 찾아내고 구조화하는 것도 가능하다. 김석규 대표는 요즘 개발자 사이에서 핫하다는 ‘모델 컨텍스트 프로토콜(Model Context Protocol, MCP)’을 말한다.[참고기사: AI의 USB라는 ‘MCP’는 무엇일까]. ‘AI를 위한 USB’라는 별칭으로도 불리는데, 요즘엔 AI를 한다는 대부분의 회사가 MCP 프로토콜을 구현하고 있다. 이게 무엇을 뜻하느냐. 대부분의 AI 기능을 내가 원하는 곳에 붙여서 쓸 수 있다는 말이다.

예를 들어, 내가 LM으로 내 폴더를 검색하고 싶다? 그러면 MCP 폴더 검색 플러그인을 가져다 붙인 후에 “내 다운로드 폴더에 있는 파일 리스트를 만들어줘”라고 요청하면 된다. 하다못해 네이버지도를 연결해서 동네 맛있는 카페를 찾는 기능을 만들려고 해도, 예전같으면 API를 가져와 구현해야 하는 등의 복잡함이 있었는데, 지금은 MCP 플러그인을 검색 LM에 붙이기만 하면 이 기능을 비교적 쉽게 만들어 볼 수 있다.

김석규 대표는 “AI 에이전트가 나오면서, 에이전트 간 서로 연결해 여러 기능을 쉽게 구현할 수 있으니 앞으로는 어떤 AI를 쓰느냐는 질문이 의미 없어질 수 있겠다”면서 “클라우드나 로봇에 MCP 호스트를 구현하고, 필요한 서버리스트를 선택해 연결하면 새로운 에이전트를 만들 수 있지 않을까, 여러 시도를 해보려 한다”고 말했다.

서로가 어떤 말을 하는지 잘 이해하기 위해서

외국인이 섞여 있는 조직에서는 내부 직원 소통을 위한 통로로 AI를 쓰기도 한다. 조달시장 입찰제안서를 AI로 분석하는 클라이원트는 최근 가장 공들이고 있는 곳이 싱가포르다. 현지에도 사람이 근무 중이라, 한국과 싱가포르의 직원들이 수시로 영상회의를 연다.

조준호 클라이원트 대표는 “서로 다른 나라에서 일하는 직원들끼리 팀즈나 구글미트를 써서 영상 회의를 하는데, 요즘에는 이런 AI 프로그램이 영상 하단에 서로가 하는 말을 모두 텍스트로 받아쳐주거나 번역해주기 때문에 소통에 큰 무리 없이 일을 진행할 수 있다”고 말했다.

때로는 모두가 한국말을 해도 소통이 잘 안 되는 경우도 있다. 대표의 머릿속에서 일어나는 일, 주로 ‘비전’이라고 부르거나 ‘공동의 목표’ 같은 것들을 조직원들에게 오해없이 공유하는 것은 말이 쉽지, 실제로 행동에 옮겨보면 그게 얼마나 어려운 일인지 뼛속 깊이 느끼게 된다.

조준호 대표는 원래 입찰 시장에서 오래 일했고, 그래서 이 시장의 ‘페인 포인트’를 정확히 알고 있으므로 본인의 머릿속에는 이 문제를 풀기 위한 그림이 있지만, 이걸 백날 말로 해봐야 서로 가슴만 답답하다. 소통이 조금만 어그러져도, 모두가 원하는 목적지로 정확히 이동하는 것은 불가능하다.

그것을 요즘은 개발을 도와주는 툴, 커서AI를 통해 플어내고 있다. 구현하고 싶은 솔루션의 그림을 직접 만들어 조직원들에게 보여주는 것이 가능해졌다. 조준호 대표는 “전략, 대시보드 같은 것을 커서AI가 쉽게 뚝딱 만들어주니 이를 개발팀에 공유하는 게 쉬어졌다”고 말했다. 또, “내 머릿속의 그림이 실제 어떻게 동작하는지도 가상으로 보여줄 수 있고, 개발팀도 커서AI를 활용해서 반복적인 코딩을 하지 않게 되니까 일이 많이 줄어들게 됐다”고 덧붙였다.

일이 세상 편해진 것, 이것은 김기중 컨포트랩 대표도 강조하는 부분이다. 특히, 하드웨어 개발을 할 때 그렇다. 예전에는 부품에 대한 명세를 일일이 찾아, 그 문서를 기준으로 설계를 하고 대체품을 찾거나 동작 특성을 디버깅하고, 이게 진짜로 되는 건지 아닌지 레퍼런스를 찾아내야 하는 등의 업무가 많았다.

그런데 지금은 부품 번호만 GPT에 던지면, 알아서 필요한 정보를 쫙 찾아주고 코딩도 짜준다. 김 대표가 체감하기에, 일이 10배는 빨라졌다. 그는 “컨포트랩이 넓은 범위의 기술을 다루고 있으므로 지금과 같은 수준의 동일한 양을 하려면 적어도 10명 이상이 일하고 있어야 하는데, 지금은 그 절반의 인원인 개발자 다섯이 일을 해내고 있다”고 말했다.

피보팅을 위한 발 빠른 동료

꿈많은청년들은 원래 챗봇을 만들다 글로벌 블로그 사이트 ‘두루미스’로 피보팅했다. 블로그를 실시간 번역해줌으로써, 소통의 장벽을 없애려 했다. 그러나 생각만큼 큰 호응을 얻진 못했다. 2전3기. 새로운 피보팅 아이디어가 필요했다. 이번에는 시장 조사를 더 철저히 하기로 했고, 그 일을 같이 할 동료로 구글 제미나이 딥리서치를 발탁했다. 그가 탐색하는 새로운 시장은 ‘위키’. 여러 위키 백과가 있지만 의외로 AI를 다루는 위키는 적다는 걸 발견했기 때문이다.

이 회사 공동창업자인 정민석 꿈많은청년들 CTO는 딥리서치가 피보팅을 위한 자료 탐색의 경로에 든든한 역할을 했다고 말한다. 그는 “처음에는 러프하게, ‘내가 이 시장을 모르니 전체적인 조사를 해달라’고 요청한 후, 리포트를 보고 난 후 방향을 설정해 질문을 좁혀서 던지면 사업의 방향성을 잡는데 도움이 된다”고 말했다.

창업자들의 하루가 길었다. 퇴근길, 이진한 클레 대표는 아무도 없는 차 안에서, 다시 한 번 GPT를 호출한다. 회화 공부를 위해서다. 클레는 요즘 자동차 공장이 지어지는 나라들, 남미나 일본 등등으로 진출하고 있다. 당연히 이 대표의 출장도 잦다.

“단어나 문법 같은 게 문제가 아니라, 상황에 따른 연습이 중요한데 GPT랑은 대화 주제나, 상황 연출을 제 맘대로 할 수 있으니까요.”

이 대표가 오늘 GPT에게 요청한 것은 “레스토랑에서 야채와 채소, 고기, 향신료를 어떻게 조리하는지” 그 활용법이다. “대답이 줄줄 나오더라고요. 이런 거는 교재에서 찾기 힘들잖아요?” GPT, 백번 써먹기 이 대표가 꺼내놓은 자신만의 팁이다.

글. 바이라인네트워크

<남혜현 기자> smilla@byline.network