피더리스

Visit

피더리스 - 서버리스 LLM

피더리스 - 최신 LLM 모델, 서버리스로 제공되며 요청에 따라 사용할 수 있습니다.

Screenshot for 피더리스 - 서버리스 LLM

    피더리스 소개

    피더리스는 Hugging Face에 호스팅된 다양한 대형 언어 모델 (LLM)에 대한 구독 기반 액세스를 제공하는 AI 모델 공급업체입니다. 사용자는 OpenAI 호환 API를 통해 이러한 모델과 상호 작용할 수 있는 서버리스 플랫폼을 제공받을 수 있습니다. 피더리스는 비용 효율적인 강력한 LLM에 대한 액세스를 중점으로 하며, LLaMA-3 및 QWEN-2를 포함한 높은 추론 속도를 갖춘 모델을 제공합니다. 사용자 상호 작용을 기록하지 않아 사용자 개인 정보 보호를 우선시합니다. 또한 피더리스는 오픈 소스 AI 개발을 지원하며 일부 수익은 다국어 및 저렴한 모델의 규모를 키우기 위해 사용됩니다.

    피더리스 사용 사례

    1. 다양한 LLM에 액세스하고 실험하기

    2. OpenAI 호환 API를 사용하여 AI 기반 애플리케이션 개발

    3. 비싼 하드웨어가 필요하지 않은 개인 프로젝트용 AI 모델 실행

    4. 텍스트 생성, 챗봇 및 코드 생성과 같은 작업에 LLM 활용

    피더리스의 주요 기능

    1. 무제한 개인 사용*

    2. 매주 업데이트되는 커뮤니티 모델의 무한한 목록

    3. 전체 OpenAI 호환 API 액세스

    4. 15B 모델 (기본) / 72B 모델 (프리미엄)에 액세스

    5. 로그 없이 개인 정보 보호, 안전하고 익명의 사용

    피더리스 자주 묻는 질문

    • 피더리스는 무엇인가요?

      피더리스는 구독자에게 Hugging Face 모델의 지속적으로 확장되는 라이브러리에 대한 액세스를 제공하는 AI 모델 공급업체입니다. 피더리스: 덜 골치, 덜 노력. 지금 시작하세요.

    • 비용은 어떻게 되나요?

      $10 및 $25 월간 두 가지 가격 플랜을 제공합니다. 참가 인원 제한이 진정한 개인 사용에 제한적이면 discord를 통해 문의해주세요.

    • 로그가 저장되나요?

      아니요. 개인 정보 보호를 중시하는 서비스로서, 채팅, 프롬프트 또는 완료 내용을 기록하지 않습니다.

    • 어떤 모델 아키텍처를 지원하나요?

      현재 LLaMA-3 기반 모델을 지원하며, LLaMA-3 및 QWEN-2를 포함합니다. QWEN-2 모델은 16,000 길이까지만 지원됩니다. 지원하는 목록에 더 많은 아키텍처를 추가할 계획입니다.

    • 새로운 모델을 어떻게 추가할 수 있나요?

      discord에서 연락주세요. Hugging Face에서 새로운 모델이 사용 가능해질 때마다 지속적으로 새로운 모델을 온보딩합니다. 성장함에 따라 호환되는 아키텍처를 가진 모든 공개적으로 사용 가능한 Hugging Face 모델을 자동화하는 것이 목표입니다.

    • 무제한이 얼마나 무제한인가요?

      구독을 유지하는 한, 모델 사용에 시간 제한이 없습니다. 공정한 개인 계정 사용을 보장하기 위해 동시 요청은 선택한 플랜에 따라 제한됩니다. 출력은 모델 및 프롬프트 크기에 따라 10-40 토큰/초의 속도로 전달됩니다.

    • 연락하는 방법은 어떻게 되나요?

      discord에 가입하거나 <a>r/SillyTavernAI</a>에서 저희를 찾아주세요.

    • 양자화된 모델을 실행하고 있나요?

      네, FP8 양자화를 사용합니다. 커뮤니티와 상담한 결과, 이 접근 방식은 출력 품질을 유지하면서 추론 속도를 크게 향상시킵니다.

    • 많은 모델을 어떻게 실행할 수 있나요?

      플랫폼의 핵심은 동적으로 모델을 실행할 수 있는 사용자 정의 추론 스택입니다.

    피더리스을 사용하는 사용자

    • AI 개발자

    • 연구원

    • 애호가

    • 저렴하고 접근 가능한 LLM 솔루션을 찾는 개인 및 기업