내가 백엔드 개발자에서 LLMOps로 전환을 결정하게 된 이유

개요

• 저는 약 2주간의 고민 끝에 Java Backend 직무에서 LLMOps로 전환하는 것을 결정하게 되었는데요. 그 이유와 고민 과정을 적어보려고 합니다.

고민의 시작 

• 저는 Java Backend로 약 4년정도 공부를 했고, 취업 준비를 하고 있던 상황이였습니다. 그래서 원서도 하나 둘 넣고 있었는데요, 저는 LLM을 다루는 연구실에서 LLM의 API 서버를 만들어 본 경험이 있었기 때문에 AI Backend 직무도 지원하고 있었습니다.
• 그러면서 자연스럽게 AI Backend 공고의 자격 조건이나 기술 스택등을 보았는데, 확실히 Java Backend와는 많이 다른 것을 알 수 있었습니다. 또 AI Backend가 아닌 MLOps나 LLMOps라는 직무도 있다는 것을 알게되었습니다.
• 최근에 Ticketing 프로젝트를 진행하면서 성능테스트와 아키텍쳐 비교 개선 작업을 한 적이 있었는데요, 이 작업을 하면서 코드를 작성하는 거 보다 여러 개선사항을 비교해보고 아키텍쳐를 수정하는 것에 더 재미를 느꼈던 것 같습니다.
• 그 중에 저는 LLM에 대한 기본적인 이해도 있고, LLM을 배울 곳(연구실)도 있었기 때문에 LLMOps를 하는게 더 적성과 지금 환경에 맞지 않을까? 해서 고민을 하게 되었습니다.
• 이제와서 생각해보면 학부생 시절부터 쭉 단순 백엔드 보다는 LLM 백엔드를 하고싶다는 막연한 생각(물론 실천하고 제대로 준비하지 않은게 조금 아쉽긴합니다.)을 가지고 있었는데요, 2024년 백엔드 시장은 너무나도 과열되었고, LLMOps는 백엔드에 비해 배우기가 쉽지 않을 뿐더러(생긴지 얼마 안된 분야라 자료가 많이 없음) 미래에도 유망한 직종이라고 생각했습니다. 

 

다시 연구실로

• 고민 끝에 한번 교수님과 미팅을 해보자!라는 결론을 내리고 무작정 교수님께 연락을 드리고 찾아갔는데요, 교수님께 찾아가 LLMOps로 직무 전환할 건데, 도움을 받을 수 있을까라고 여쭈어보았는데 다행히 교수님께서 긍정적으로 봐주셔서 구체적으로 LLMOps가 무엇을 해야하는지, 교수님 밑으로 다시 들어가게 되면 어떤 일을 하게 될지 상세하게 설명을 해주셨습니다. 결론적으로 저는 연구실에 다시 들어가 교수님 밑에서 배우기로 했습니다.
• 또 여자친구도 같은 연구실 출신으로, LLM Engineer이지만 LLMOps에 대한 이해도 있고, 상도 여럿 받은 경험이 있어서 저에게는 좋은 멘토가 될 수 있을거같습니다.
• 결론적으로 1년 동안 교수님 밑에서 LLMOps에 대해 배우게 될 것 같은데요, LLM Ops는 LLM 여러 최적화 기법에 대해 알아야 하는 만큼 열심히 LLM 공부와 DevOps 공부를 해야할 것 같습니다.