Mistral은 3.1이 GPT 4O-Mini 및 Gemma 3보다 낫습니까?

며칠 전 Google DeepMind는 Gemma 3을 소개했으며 여전히 그 기능을 탐색하고있었습니다. 그러나 지금은 주요 발전이 있습니다. Mistral AI의 작은 3.1이 도착하여 웨이트 클래스에서 최고의 모델이라고 주장했습니다! 이 가볍고 빠르며 고도로 사용자 정의 가능한 Marvel은 단일 RTX 4090 또는 32GB RAM이 장착 된 Mac에서 쉽게 작동하므로 기기 애플리케이션에 적합합니다. 이 기사에서는 Mistral Small 3.1의 세부 사항을 세분화하고 잠재력을 보여줄 수있는 실습 예제를 제공하겠습니다.

Mistral Small 3.1은 무엇입니까?

Mistral Small 3.1은 Mistral AI가 Apache 2.0 라이센스에 따라 출시 된 최첨단 오픈 소스 AI 모델입니다. 효율성을 위해 설계된이 제품은 멀티 모달 입력 (텍스트 및 이미지)을 지원하고 뛰어난 정확도로 다국어 작업에서 탁월합니다. 128K 토큰 컨텍스트 창을 통해 장거리 텍스트 응용 프로그램을 위해 구축되어 실시간 대화 AI, 자동화 된 워크 플로 및 도메인 별 미세 조정을위한 최고의 선택입니다.

주요 기능

• 효율적인 배포: 32GB RAM이있는 RTX 4090 또는 Mac과 같은 소비자 급 하드웨어에서 실행됩니다.
• 멀티 모달 기능: 다목적 응용 프로그램의 텍스트 및 이미지 입력을 모두 처리합니다.
• 다국어 지원: 여러 언어에서 고성능을 제공합니다.
• 확장 컨텍스트: 복잡하고 긴 컨텍스트 작업을 위해 최대 128k 토큰을 처리합니다.
• 빠른 응답: 저도, 실시간 대화 AI에 최적화되었습니다.
• 기능 실행: 자동화를 호출하는 빠르고 정확한 기능을 활성화합니다.
• 사용자 정의: 의료 또는 법률 AI와 같은 전문 도메인에 대해 쉽게 미세 조정됩니다.

Mistral Small 3.1 vs gemma 3 vs gpt 4o mini vs claude 3.5

텍스트 지시 벤치 마크

이미지는 6 개의 벤치 마크에서 5 개의 AI 모델을 비교합니다. Mistral Small 3.1 (24b)은 GPQA Main, GPQA Diamond, MMLU 및 Humaneval의 4 가지 벤치 마크에서 최고의 성능을 달성했습니다. Gemma 3-IT (27b)는 SimpleQA 및 수학 벤치 마크에서 이끌고 있습니다.

멀티 모달 지시 벤치 마크

이 이미지는 7 개의 벤치 마크에서 AI 모델을 비교합니다. Mistral Small 3.1 (24b)은 MMMU-Pro, MM-MT-Bench, ChartQA 및 AI2D 벤치 마크에서 리드됩니다. Gemma 3-IT (27b)는 Mathvista, MMMU 및 DocVQA 벤치 마크에서 가장 잘 수행됩니다.

다국어

이 이미지는 평균, 유럽, 동아시아 및 중동의 네 가지 문화 범주에서 AI 모델 성능을 보여줍니다. Mistral Small 3.1 (24b)은 평균, 유럽 및 동아시아 카테고리에서 이어지고 Gemma 3-IT (27b)는 중동 범주에서 가장 좋습니다.

긴 맥락

이 이미지는 3 개의 벤치 마크에서 4 개의 AI 모델을 비교합니다. Mistral Small 3.1 (24b)은 Longbench V2 및 Ruler 32K 벤치 마크에서 가장 높은 성능을 달성하는 반면 Claude-3.5 Haiku는 통치자 128K 벤치 마크에서 가장 높은 점수를 얻었습니다.

사전 예방 된 성능

이 이미지는 5 개의 벤치 마크에서 Mistral Small 3.1 Base (24b)와 Gemma 3-PT (27b)의 두 가지 AI 모델을 비교합니다. MISTRAL은 MMLU, MMLU Pro, GPQA 및 MMMU에서 더 잘 수행합니다. Gemma는 Triviaqa 벤치 마크에서 최상의 결과를 얻습니다.

미스트랄이 작은 3.1 API를 얻는 방법?

1 단계 : 브라우저에서 Mistral AI 검색

2 단계 : Mistral AI 웹 사이트를 열고 Try API를 클릭하십시오.

3 단계 : API 키를 클릭하고 키를 생성합니다.

La Plateforma를 통해 (Mistral AI의 꿀벌)

• Console.mistral.ai에 가입하십시오.
• API 키를 활성화하기 위해 결제를 활성화합니다 (Mistral의 API는이 단계가 필요합니다).
• Mistral-Small-Latest 또는 Mistral-Small-2501과 같은 모델 식별자와 함께 API 엔드 포인트를 사용하십시오 (정확한 이름 Post Release에 대한 Mistral의 문서를 확인하십시오).

파이썬 클라이언트 :

import requests
api_key = "your_api_key"
headers = {"Authorization": f"Bearer {api_key}", "Content-Type": "application/json"}
data = {"model": "mistral-small-latest", "messages": [{"role": "user", "content": "Test"}]}
response = requests.post(" json=data, headers=headers)
print(response.json())

Mistral Small 3.1을 시도해 봅시다

예 1 : 텍스트 생성

!pip install mistralai

import os
from mistralai import Mistral

from getpass import getpass
MISTRAL_KEY = getpass('Enter Mistral AI API Key: ')

import os
os.environ['MISTRAL_API_KEY'] = MISTRAL_KEY

model = "mistral-small-2503"
client = Mistral(api_key=MISTRAL_KEY)
chat_response = client.chat.complete(
    model= model,Picsum ID: 237
    messages = [
        {
            "role": "user",
            "content": "What is the best French cheese?",
        },
    ]
)
print(chat_response.choices[0].message.content)

산출

Choosing the "best" French cheese can be highly subjective, as it depends on personal taste preferences. France is renowned for its diverse and high-quality cheeses, with over 400 varieties. Here are a few highly regarded ones:
1. **Camembert de Normandie**: A soft, creamy cheese with a rich, buttery flavor. It's often considered one of the finest examples of French cheese.
2. **Brie de Meaux**: Another soft cheese, Brie de Meaux is known for its creamy texture and earthy flavor. It's often served at room temperature to enhance its aroma and taste.
3. **Roquefort**: This is a strong, blue-veined cheese made from sheep's milk. It has a distinctive, tangy flavor and is often crumbled over salads or served with fruits and nuts.
4. **Comté**: A hard, cow's milk cheese from the Jura region, Comté has a complex, nutty flavor that varies depending on the age of the cheese.
5. **Munster-Gérardmer**: A strong, pungent cheese from the Alsace region, Munster-Gérardmer is often washed in brine, giving it a distinctive orange rind and robust flavor.
6. **Chèvre (Goat Cheese)**: There are many varieties of goat cheese in France, ranging from soft and creamy to firm and crumbly. Some popular types include Sainte-Maure de Touraine and Crottin de Chavignol.
Each of these cheeses offers a unique taste experience, so the "best" one ultimately depends on your personal preference.

예 2 : 이미지 설명을 위해 Mistral Small 2503 사용

import base64

def describe_image(image_path: str, prompt: str = "Describe this image in detail."):
    # Encode image to base64
    with open(image_path, "rb") as image_file:
        base64_image = base64.b64encode(image_file.read()).decode("utf-8")

    # Create message with image and text
    messages = [{
        "role": "user",
        "content": [
            {"type": "text", "text": prompt},
            {
                "type": "image_url",
                "image_url": {
                    "url": f"data:image/jpeg;base64,{base64_image}"  # Adjust MIME type if needed
                }
            }
        ]
    }]

    # Get response
    chat_response = client.chat.complete(
        model=model,
        messages=messages
    )

    return chat_response.choices[0].message.content

# Usage Example
image_description = describe_image("/content/image_xnt9HBr.png")
print(image_description)

입력 이미지

산출

The image illustrates a process involving the Gemini model, which appears to be a type of AI or machine learning system. Here is a detailed breakdown of the image:
1. **Input Section**:
- There are three distinct inputs provided to the Gemini system:
- The word "Cat" written in English.
- The character "猫" which is the Chinese character for "cat."
- The word "कुत्ता" which is the Hindi word for "dog."
2. **Processing Unit**:
- The inputs are directed towards a central processing unit labeled "Gemini." This suggests that the Gemini system is processing the inputs in some manner, likely for analysis, translation, or some form of recognition.
3. **Output Section**:
- On the right side of the Gemini unit, there are three sets of colored dots:
- The first set consists of blue dots.
- The second set consists of a mix of blue and light blue dots.
- The third set consists of yellow and orange dots.
- These colored dots likely represent some form of encoded data, embeddings, or feature representations generated by the Gemini system based on the input data.
**Summary**:
The image depicts an AI system named Gemini that takes in textual inputs in different languages (English, Chinese, and Hindi) and processes these inputs to produce some form of encoded output, represented by colored dots. This suggests that Gemini is capable of handling multilingual inputs and generating corresponding data representations, which could be used for various applications such as language translation, semantic analysis, or machine learning tasks.

예 3 : 이미지 설명

image_description = describe_image("/content/yosemite.png")
print(image_description)

입력 이미지

산출

The image depicts a serene and picturesque natural landscape, likely in a national park. The scene is dominated by towering granite cliffs and rock formations, which rise dramatically into a clear blue sky with a few scattered clouds. The cliffs are rugged and steep, showcasing the natural beauty of the area.
In the foreground, there is a calm river or stream flowing gently over a rocky bed. The water reflects the surrounding landscape, adding to the tranquility of the scene. The riverbank is lined with green vegetation, including grasses and small plants, which add a touch of vibrant color to the scene.
The background features a dense forest of tall evergreen trees, primarily conifers, which provide a lush green contrast to the gray and brown tones of the rock formations. The trees are scattered across the landscape, extending up the slopes of the cliffs, indicating a healthy and thriving ecosystem.
Overall, the image captures the majestic and peaceful beauty of a natural landscape, likely in a well-known park such as Yosemite National Park, known for its iconic granite cliffs and scenic valleys.

예제 4 : 이미지 설명

image_description = describe_image("/content/237-200x300.jpg")
print(image_description)

입력 이미지

산출

The image features a black dog lying down on a wooden surface. The dog has a short, glossy black coat and is looking directly at the camera with a calm and attentive expression. Its ears are perked up, and its eyes are wide open, giving it a curious and alert appearance. The wooden surface beneath the dog has a rustic, textured look, with visible grain patterns and a warm, natural color. The overall setting appears to be indoors, and the lighting is soft, highlighting the dog's features and the texture of the wood.

포옹 페이스를 사용하여 Mistral Small 3.1에 접근하는 방법?

포옹을 통해

• Hugging Face 웹 사이트를 방문하여 “Mistral Small 3.1″을 검색하거나 Mistral AI 조직 페이지 (예 : Mistralai/Mistral-Small-3.1)를 확인하십시오.
• 모델 파일을 다운로드하십시오 (웨이트 및 토큰 화제 구성 포함).
• 포옹 페이스 트랜스포머 또는 Mistral의 공식 추론 라이브러리와 같은 호환 프레임 워크를 사용하십시오.

필요한 라이브러리 설치 :

pip install transformers torch (add mistral-inference if using their official library)

Python에 모델을로드하십시오.

from transformers import AutoModelForCausalLM, AutoTokenizer
model_name = "mistralai/Mistral-Small-3.1"  # Adjust based on exact name
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name)

자세한 내용은이 링크를 확인하십시오 : Mistral Small

결론

Mistral Small 3.1은 강력하고 효율적이며 다양한 AI 모델로 눈에 띄며 클래스에서 최고 수준의 성능을 제공합니다. 멀티 모달 입력, 다국어 작업 및 장거리 텍스트 응용 프로그램을 처리 할 수있는 기능으로 Gemma 3 및 GPT-4O Mini와 같은 경쟁 업체에 대한 강력한 대안을 제공합니다.

실시간 대응 성 및 사용자 정의 옵션과 결합 된 소비자 등급 하드웨어에 대한 가벼운 배포는 AI 중심 애플리케이션에 탁월한 선택이됩니다. 대화 AI, 자동화 또는 도메인 별 미세 조정에 관계없이 Mistral Small 3.1은 AI의 강력한 경쟁자입니다.