Пожелания и планы на будущее
-
- Site Admin
- Reactions: 849
- Сообщения: 2905
- Зарегистрирован: Сб май 14, 2022 5:03 pm
-
- Site Admin
- Reactions: 849
- Сообщения: 2905
- Зарегистрирован: Сб май 14, 2022 5:03 pm
Re: Пожелания и планы на будущее
Free вроде никуда не денется, pay-as-you-go это для тех кто будет использовать в production и не хочет делится своими данными.
Мне не нравится что в варианте REST API https://ai.google.dev/tutorials/rest_quickstart необходимо каждый раз пересылать всю историю (context) что будет проблематичено при обработке больших запросов в случае с 1.5, хотелось бы чтобы они делали сессию и держали весь context у себя
У меня уже есть доступ к 1.5 https://generativelanguage.googleapis.c ... ?key={{key}}
Код: Выделить всё
{
"name": "models/gemini-1.5-pro-latest",
"version": "001",
"displayName": "Gemini 1.5 Pro",
"description": "Mid-size multimodal model that supports up to 1 million tokens",
"inputTokenLimit": 1048576,
"outputTokenLimit": 8192,
"supportedGenerationMethods": [
"generateContent",
"countTokens"
],
"temperature": 1,
"topP": 0.95
},
Думаю можно попробовать добавить такого бота на сайт.
-
- Site Admin
- Reactions: 849
- Сообщения: 2905
- Зарегистрирован: Сб май 14, 2022 5:03 pm
Re: Пожелания и планы на будущее
Большие media файлы можно закачивать с помощью File API https://ai.google.dev/api/rest/v1beta/files
Prompting with media files https://ai.google.dev/tutorials/prompting_with_mediaThe File API lets you store up to 20GB of files per project, with each file not exceeding 2GB in size. Files are stored for 48 hours and can be accessed with your API key for generation within that time period. It is available at no cost in all regions where the Gemini API is available.
Re: Пожелания и планы на будущее
На данный момент, как соотносятся Gemini 1.5 и ChatGpt-4 API по "уровню интеллекта" если им обоим дать одинаковый контекст, скажем, 32,000 ?
И вот еще интересно:
И вот еще интересно:
Re: Пожелания и планы на будущее
"поддерживает conversation context" --это Вы имеете ввиду следущее ? :elpresidente* писал(а): ↑Ср апр 17, 2024 4:46 pm Мне не нравится что в варианте REST API https://ai.google.dev/tutorials/rest_quickstart необходимо каждый раз пересылать всю историю (context) ..
<skip>
Причем 1.5 это multimodal модель и она поддерживает conversation context, вот хороший пример
Код: Выделить всё
model = genai.GenerativeModel('gemini-pro')
chat = model.start_chat(history=[])
response = chat.send_message("In one sentence, explain how a computer works to a young child.")
response = chat.send_message("Okay, how about a more detailed explanation to a high schooler?")
Насколько понимаю, в отличие от Gemini выше, у Claude 3 пока ещё нет опции "Сhat"
https://docs.anthropic.com/claude/refer ... s-examplesClaude 3 : The Messages API is stateless, which means that you always send the full conversational history to the API.