AI 이벤트 프레젠테이션 요약
연사:
- Richard Socher, You.com CEO
- Sung Kim, Upstage CEO
- 주최: Upstage 및 SoftBank Ventures Asia
소개
이벤트 개요:
- Upstage의 Sung Kim과 SoftBank Ventures Asia가 주최
- AI 검색 엔진의 발전과 혁신에 중점
- You.com의 접근 방식이 부정확성과 환각 같은 AI 모델의 일반적인 문제를 어떻게 극복하는지에 대한 특별한 강조
You.com의 주요 기능
개인화된 AI 검색 엔진:
- You.com은 개인화된 검색 경험을 제공하는 것을 목표로 함
- Perplexity 및 ChatGPT-4와 같은 다른 AI 모델과 경쟁
주요 기능 및 혁신
Longer Snippets of Context:
- Google SerpAPI의 단순 통합만으로는 부족
- You.com은 더 많은 양의 입력 데이터를 사용하여 더 정확한 검색 결과를 제공
- 개인적 인사이트:
- 질문: 더 긴 컨텍스트가 비용 효율적인가?
- 답변: 비용과 시간이 증가하지만, 품질이 크게 향상됨
Best Model for the Job:
- 사용자의 질문에 따라 다른 LLM 모델을 사용
- 예시:
- 코딩 작업에는 GPT-4
- 법률 해석에는 Claude
- 개인적 인사이트:
- 질문: 이로 인해 응답 시간이 증가하는가?
- 답변: 그렇지만, 더 나은 품질의 응답을 보장함
Reliable Citation:
- 신뢰할 수 있는 출처를 인용하는 데 중점
- 잘못된 인용 예시:
- Google의 AI가 Reddit의 부정확한 조언을 제시
Understanding User Intent:
- 사용자의 의도에 따라 다른 프롬프트와 모델을 사용
- 사용자의 필요를 더 잘 반영하기 위해 검색 쿼리를 다시 작성
Dynamic Prompting:
- 이전 질문을 기반으로 답변을 조정하여 문맥을 유지
- 예시:
- 후속 질문에 따라 사실적 응답과 창의적 스토리텔링을 구분
Richard Socher의 인사이트
배경과 여정:
- 교수와 스타트업 균형:
- Stanford에서 신경망을 통한 NLP 강의
- 스타트업에 집중하여 Salesforce에 인수됨
- 도전과 전략:
- NLP를 위한 신경망의 이점을 학계에 설득
- 변화를 주도하기 위해 젊은 세대에 집중
- 회사 성장:
- 소수의 학생들을 가르치는 것에서 수천 명에게 영향을 미치는 기업 환경으로 성장
- 인수 후 Salesforce의 연구 및 엔지니어링 팀을 이끌음
AI 모델과 안전성
LLM을 통한 수학적 추론
- 수학 문제를 Python 코드로 번역
- AI가 코드를 실행할 수 있도록 안전성을 보장
정확성과 사용자 피드백
- 엄격한 테스트를 통해 AI 응답의 높은 정확도를 보장
- Invisible Technologies와 협력하여 편견 없는 사용자 피드백 수집
AI 모델 개선 및 확장
지속적 개선
- 사용자 피드백을 사용하여 모델을 정기적으로 미세 조정
- A/B 테스트를 통해 다양한 모델 버전 비교
맞춤형 LLM
- 미래 목표: 개인 사용자 피드백을 기반으로 한 맞춤형 LLM
- 현재 기술 한계와 진행 중인 개발 노력
녹음된 AI 도구 세션 요약
NLP와 신경망
- NLP를 위한 신경망에 대한 초기 저항
- 변화를 주도하기 위해 젊은 전문가들에 집중
연구와 실용적 적용의 균형
- 비용 때문에 스타트업에서의 제한된 연구
- 실세계 적용과 수익 창출에 집중
LLM 정확도와 안전성
- 수학 문제를 정확하게 코드로 번역
- 정확성을 유지하면서 잠재적 보안 문제 해결
편견 없는 사용자 피드백
- 편견 없는 피드백을 수집하기 위해 제3자 회사와 협력
- You.com의 성능을 GPT-4와 비교
모델 개선
- 정기적인 미세 조정과 A/B 테스트
- 맞춤형 LLM을 목표로 하는 미래
시장 적응과 수익화
- 틈새 시장에서 시작하여 확장
- 구독 및 기업 모델로 성공적인 전환
개발 전략
- 회사 인터뷰를 통해 요구 사항 식별
- 초기 피드백을 위한 종이 프로토타입 사용
Q&A 세션
시장 초점 및 전략
- 초기에는 틈새 시장에 집중한 후 확장
- 예시:
- 프로그래머로 시작하여 날씨와 레스토랑 검색과 같은 광범위한 요구를 해결
수익화
- ChatGPT의 성공에 따라 구독 모델로 전환
- 학생 및 기업과 같은 유료 사용자를 대상으로 기업 라이센스 제공
제품 개발
- 회사 인터뷰를 통해 기초 기술 요구 사항 결정
- 실제 개발 전에 종이 프로토타입을 사용하여 피드백 수집
검색 엔진의 정의와 확장성
- 좋은 검색 엔진의 정의와 확장 가능성에 대한 질문은 시간 관계상 충분히 다루지 못함
UI/UX 적응
- 사용자가 Google 및 ChatGPT 인터페이스에 익숙함
- You.com은 최근 사용자 피드백을 기반으로 디자인을 업데이트함
수익 전략
- 구독 모델 및 기업 판매로 전환
- 새로운 수익화 전략 덕분에 ARR(연간 반복 수익) 급증
결론
최종 발언:
- 사용자 요구에 집중하고 지속적으로 개선하는 것의 중요성
- 스타트업 창업자들이 수익과 고객 피드백을 우선시할 것을 권장
미래 전망:
- 개인화되고 효율적인 AI 모델을 위한 지속적인 개발
- 사용자 중심 설계와 지속적인 개선 강조