Выбор и загрузка данных из подключения Anthropic (Amazon Bedrock)
После создания подключения можно выбрать данные и загрузить их в приложениеQlik Sense или скрипт. Данные загружаются в редактор загрузки данных или Скрипт.
Коннектор Amazon Bedrock - Converse API позволяет подключиться к универсальному API Amazon Bedrock для моделей генерации текста, включая одну или несколько моделей, доступных через этот коннектор. Рассмотрите возможность замены подключений Anthropic (Amazon Bedrock) на подключения Amazon Bedrock - Converse API для расширенной функциональности. Для получения дополнительной информации см. раздел Amazon Bedrock - Converse API Источник аналитики .
В Редактор загрузки данных и Скрипт базовый обмен данными с аналитическим подключением формулируется как скрипт, который включает как минимум следующие компоненты:
-
Таблица (Резидентная таблица), содержащая поле запроса (Поле данных), которое требуется отправить в Anthropic.
-
Оператор загрузки Anthropic, который обеспечивает взаимодействие с Anthropic через подключение.
С технической точки зрения, при расширенной настройке поле запроса и поле связи можно определить в таблице, содержащей другие поля. Однако поле запроса и поле связи должны содержаться в одной и той же таблице исходных данных. Важно помнить, что при связывании этих полей с полями в модели данных ответы генерируются для каждого значения.
Инженерия подсказок
При составлении запросов, которые отправляются в модель генеративного ИИ (часто называемых подсказками или промптами), следуйте рекомендациям, предназначенным для используемой комбинации платформы. Для получения информации об инженерии подсказок и некоторых рекомендациях по структурированию подсказок для Amazon Bedrock коннекторов, см. раздел Концепции инженерии подсказок.
Создание запросов для конфигурации Anthropic - Claude (Messages API)
Конфигурация Anthropic - Claude (Messages API) подключается к API-интерфейсу Messages (Сообщения).
При использовании этой конфигурации в запросах не требуется использовать какой-то специальный синтаксис. Полный пример см. в разделе Примеры.
Создание запросов для конфигурации Anthropic - Claude
Вы можете использовать Anthropic - Claude конфигурацию для подключения к нескольким устаревшим моделям Claude.
Запросы, созданные для данной конфигурации, должны иметь специальный синтаксис для успешного возвращения завершений. Требования перечислены ниже:
Перед каждой подсказкой должен стоять текстовый префикс Human:
После каждой подсказки должен следовать текстовый суффикс Assistant:
Перед префиксом Human: должно быть два символа возврата каретки. Для этого необходимо добавить chr(10) & chr(10) в выражение перед префиксом.
Перед суффиксом Assistant: должно быть два символа возврата каретки. Для этого необходимо добавить chr(10) & chr(10) в выражение перед суффиксом.
Для получения информации о конструировании и форматировании подсказки Claude см. раздел Конструирование подсказки.
Обратите внимание, что в скрипте это можно сделать несколькими способами. Полный пример см. в разделе Примеры.
Создание таблицы данных для отправки в Anthropic
Прежде всего, необходимо загрузить таблицу, которая содержит данные, отправляемые в модель в качестве запроса. Эта таблица должна состоять из одного столбца данных, где каждая ячейка представляет текст, который должен быть завершен моделью. Может быть второе дополнительное поле для параметра Association Field (Поле связи), но оно должно соответствовать имени поля, указанному в конфигурации. Это специальное поле, которое не отправляется в Amazon Titan, а присоединяется к ответам с целью интегрирования данных взаимодействия в модель данных.
Что нужно знать об объемах запросов данных
При загрузке данных каждая строка в поле запроса будет отправляться в Anthropic. Прежде чем взаимодействовать с внешней платформой, необходимо оценить, как количество запросов, объем включенных в них данных и конфигурация коннектора влияют на финансовое соглашение с внешним поставщиком и на оплату его услуг. Чем более интенсивно используется внешняя платформа, тем больше могут быть затраты.
Создание оператора load Anthropic
Кроме того, для взаимодействия с Anthropic необходимо создать оператор load, используя синтаксис расширения. Эта часть скрипта ссылается на подключение Anthropic (Amazon Bedrock) и задает имена таблицы и полей, которые используются для отправки данных запроса (см. раздел выше). Она загружает отдельную таблицу, которая, среди прочих данных, будет содержать ответы модели на каждую строку.
Для создания этой части скрипта можно использовать мастер Выбор данных для используемого подключения. При этом создается шаблон скрипта, включающий имена предоставленных свойств.
Найдите используемое подключение на панели Источники данных в Редактор загрузки данных или Скрипт и щелкните . Откроется мастер Выбор данных.
При использовании мастера Выбор данных необходимо указать два свойства.
Имя резидентной таблицы. Это таблица с запросом, отправляемым в Anthropic.
Имя поля данных. Это поле с данными запроса, отправляемого в Anthropic.
Эти данные можно добавить в редактор скриптов вручную, не используя мастер.
При нажатии кнопки Вставить скрипт, новая таблица добавляется в скрипт загрузки. Теперь можно загрузить данные, проверить полученную в результате модель данных и использовать данные для создания аналитического содержимого в приложении.
Примеры
Anthropic - Claude (Messages API)
Следующий скрипт загрузки запрашивает три завершения из Anthropic с использованием конфигурации Anthropic - Claude (Messages API).
Для получения дополнительной информации о создании запросов см. раздел Инженерия подсказок.
Вот как осуществляется настройка в таком случае:
Параметру Resident Table (Резидентная таблица) задано значение QuestionsClaude.
Параметру Data Field (Поле данных) с подсказками задано значение Question.
Параметру Association Field (Поле связи) задано значение Question_ID.
Оператор load Anthropic содержится в таблице под именем Anthropic.
QuestionsClaude:
Load * Inline [
Question_ID,Question
1,"show me general ways to help boost a company's sales"
2,"what are the core concepts in accounting?"
3,"how large is the sun?"
];
[Anthropic]:
LOAD
[text],
[stop_reason],
[input_tokens],
[output_tokens],
[model],
[id],
[Question_ID]
EXTENSION endpoints.ScriptEval('{"RequestType":"endpoint", "endpoint":{"connectionname":"Anthropic_(Amazon_Bedrock)"}}', QuestionsClaude);Anthropic - Claude
Следующий скрипт загрузки запрашивает завершение из Anthropic с использованием конфигурации Anthropic - Claude. Для получения дополнительной информации о необходимом синтаксисе см. раздел Создание запросов для конфигурации Anthropic - Claude.
Для получения дополнительной информации о создании запросов см. раздел Инженерия подсказок.
Вот как осуществляется настройка в таком случае:
Параметру Resident Table (Резидентная таблица) задано значение QuestionsClaude.
Параметру Data Field (Поле данных) с подсказками задано значение Intputtextclaude.
Параметру Association Field (Поле связи) задано значение RowId.
Оператор load Anthropic содержится в таблице под именем Anthropic.
QuestionsClaude:
load RowNo() as RowId,
chr(10) & chr(10) & 'Human:' & Inputtext & chr(10) & chr(10) & 'Assistant:' as Inputtextclaude
Inline [
Inputtext
What is the time in Germany if it's 6 pm in New York?
](delimiter is \n);
[Anthropic]:
LOAD
[completion],
[stop_reason],
[RowId]
EXTENSION endpoints.ScriptEval('{"RequestType":"endpoint", "endpoint":{"connectionname":"Anthropic_(Amazon_Bedrock)"}}', QuestionsClaude{RowId,Inputtextclaude});