AI 개발자 채용 AI 관련 지식 필기

Intro:

AI 개발자 직무로 지원해, 면접 1차 합격 후, 2차 면접 안내를 받았고, 오늘 다녀왔다.

면접 내용 : 임원 면접(20분) / 간단한 프로그래밍 - AI 관련 지식 필기 테스트(30분)

AI 관련 지식 필기 테스트

Text Embedding 설명

Text embedding은 텍스트 데이터를 고정된 길이의 벡터로 변환하는 과정입니다. 이 벡터는 컴퓨터가 처리할 수 있는 형태로 텍스트의 의미를 수치적으로 표현합니다. 이 과정은 자연어 처리(NLP)에서 중요한 역할을 하며, 단어, 문장, 문단을 벡터 공간에 매핑하여 단어 간의 의미적 관계를 반영합니다. 예를 들어, “Word2Vec”, “GloVe”, “BERT”의 Embedding 방식은 단어의 문맥적 의미를 포착하여 비슷한 의미를 가진 단어들이 벡터 공간에서 가까이 위치하게 합니다. 이를 통해 문서 분류, 감성 분석, 기계 번역 등의 작업을 효율적으로 수행할 수 있습니다.

LLM(Large Language Model) 예시 및 특징

LLM 예시로는 “GPT-3”, “BERT”, “RoBERTa” 등이 있습니다. 이러한 모델들은 대규모 데이터셋에서 사전 학습되어, 다양한 자연어 처리 작업에 파인튜닝 없이도 높은 성능을 보일 수 있습니다.

GPT-3: OpenAI에 의해 개발된 모델로, 1750억 개의 파라미터를 가지고 있습니다. GPT-3는 특히 자연어 생성에서 뛰어난 성능을 보여, 질의응답, 텍스트 요약, 코드 생성 등 다양한 작업을 수행할 수 있습니다.
BERT: Google에 의해 개발된 모델로, 양방향 문맥을 고려하여 단어의 의미를 학습합니다. 이를 통해 질의응답, 이름이 지정된 엔티티 인식(NER) 등의 작업에 우수한 성능을 보입니다.
RoBERTa: BERT를 기반으로 하며, 데이터와 학습 과정을 최적화하여 더 나은 성능을 제공합니다.

Semantic Segmentation 설명

Semantic Segmentation은 이미지 내의 각 픽셀을 특정 클래스에 할당하는 과정입니다. 이 기술은 이미지를 구성하는 객체 각각의 정확한 위치와 형태를 이해하는 데 중요하며, 자율 주행 차량, 의료 영상 분석, 지리 정보 시스템(GIS) 등에 활용됩니다. 예를 들어, 도로 이미지에서 차량, 보행자, 도로, 건물 등을 정확히 식별하고 분류합니다. 이 과정은 컴퓨터 비전 분야에서 깊은 신경망, 특히 CNN(Convolutional Neural Networks)을 기반으로 한 모델을 사용하여 수행됩니다.

MVC 패턴 설명

MVC(Model-View-Controller) 패턴은 소프트웨어 엔지니어링에서 사용자 인터페이스를 구현하기 위한 설계 패턴입니다. 이 패턴은 애플리케이션을 세 가지 주요 구성 요소로 나눕니다:

Model: 애플리케이션의 데이터와 비즈니스 로직을 담당합니다.
View: 사용자에게 정보를 표시하는 UI 구성 요소입니다.
Controller: 사용자의 입력을 받아 모델과 뷰를 업데이트하는 로직을 처리합니다.

MVC 패턴은 애플리케이션의 구조를 명확하게 분리하여 유지 관리와 확장성을 향상시킵니다.

LLM 기반 고객 대응 서비스 아키텍처 그리기

LLM 기반 고객 대응 서비스 아키텍처는 대체로 다음과 같은 구성 요소로 이루어집니다:

사용자 인터페이스(UI): 고객이 질문을 입력하고 답변을 받는 인터페이스입니다.
컨트롤러: 사용자의 요청을 받아 적절한 LLM 모델에 전달하고, 모델의 응답을 사용자에게 반환합니다.
LLM 모델: GPT-3, BERT 등의 사전 학습된 대규모 언어 모델을 활용하여 사용자의 질문에 대한 답변을 생성합니다.
데이터베이스(DB): 고객 대응 서비스에서 필요한 지식 베이스, 사용자 데이터, 이전 대화 기록 등을 저장합니다.

아키텍처 구성 요소

사용자 인터페이스 (UI)

고객이 서비스를 이용하는 첫 번째 접점입니다. 웹 페이지, 모바일 앱, 챗봇 인터페이스 등이 있을 수 있습니다.

웹 서버 / 애플리케이션 서버

사용자의 요청을 받고 처리 결과를 반환합니다. 사용자의 질문을 LLM 모델에 전달하기 전에 사전 처리를 수행할 수도 있습니다.

컨트롤러 / 서비스 레이어

사용자의 요청을 분석하고, 적절한 LLM 모델을 선택하여 처리를 요청합니다. 또한, 사용자 요청에 따라 데이터베이스에서 필요한 정보를 조회하거나 업데이트할 수도 있습니다.

LLM 모델 서버

GPT-3, BERT 등의 LLM 모델을 호스팅합니다. 사용자의 질문을 입력으로 받아 자연어 처리를 통해 적절한 답변을 생성합니다.

데이터베이스 (DB)

사용자 정보, 대화 내역, 지식 베이스 등을 저장합니다. 이 데이터는 사용자 요청에 대한 응답을 개선하고, 서비스의 성능을 모니터링하는 데 사용됩니다.

API 게이트웨이

다양한 서비스와의 통신을 관리합니다. 외부 API 호출, 내부 서비스 간 통신 등을 중앙에서 관리하여 보안과 효율성을 높입니다.

아키텍처 동작 과정

사용자 요청 처리

사용자는 UI를 통해 질문을 제출합니다.
웹 서버는 사용자의 요청을 받아 컨트롤러에 전달합니다.

LLM 모델 선택 및 요청

컨트롤러는 요청을 분석하여 적절한 LLM 모델을 선택합니다.
선택된 LLM 모델에 사용자의 질문을 전송합니다.

응답 생성 및 반환

LLM 모델 서버는 요청 받은 질문을 처리하고, 답변을 생성합니다.
생성된 답변은 웹 서버를 통해 사용자에게 반환됩니다.

데이터 저장 및 업데이트

대화 내역과 사용자 반응은 데이터베이스에 저장됩니다.
이 정보는 서비스 개선과 사용자 경험 향상을 위해 분석될 수 있습니다.