Подписка на раздел Kafka для Входного коннектора GeoJSON, который может быть использован для извлечения и адаптации записей данных событий в формате GeoJSON, получаемых из Apache Kafka® Topic. Для получения информации о работе с Apache Kafka® см. раздел Об Apache Kafka. Дополнительную информацию и примеры записей данных в формате GeoJSON см. в Спецификация GeoJSON.
Примечания по использованию
- Используйте этот входной коннектор для использования данных GeoJSON из Kafka Topic. Этот входной коннектор - потребитель Kafka.
- Этот входной коннектор связывает Входной адаптер GeoJSON с входным транспортом Kafka.
- Как и объект JSON, GeoJSON по сути является подтипом стандартного JSON. Для обработки этих специальных форматов используются разные адаптеры GeoEvent Server.
- Входной транспорт Kafka поддерживает протоколы безопасности TLS 1.2 и SASL для аутентификации с кластером или брокером Kafka.
Параметры
| Параметр | Описание |
|---|---|
Имя | Описательное имя входного коннектора, используемое для ссылки в GeoEvent Manager. |
Заменить пользовательскими свойствами Kafka | Укажите, следует ли переопределять свойства клиента GeoEvent Server Kafka по умолчанию. По умолчанию Нет.
|
Серверы Kafka Bootstrap (Условия) | Список пар hostname:порт, используемых для установки исходного подключения к кластеру Kafka. Пары hostname:port должны быть разделены запятыми, например:
Свойство показывается, когда для свойства Заменить пользовательскими свойствами Kafka задано Нет. |
Названия тем | Название темы Kafka или список тем Kafka, из которых будут использоваться интересующие данные. Несколько тем должны быть разделены точкой с запятой.
Примечание:Возможность указать несколько тем Kafka поддерживается в ArcGIS GeoEvent Server 10.8 и более поздних. |
Число пользователей | Указывает число пользователей для каждой группы потребителей. Число пользователей по умолчанию установлено на 1. Примечание:Число пользователей ограничено количеством разделов в Kafka topic. См. Введение в Apache Kafka для получения дополнительной информации о примерах пользователей. |
ID группы потребителей (Условия) | Необязательная строка, которая однозначно идентифицирует группу потребителей для набора потребителей. Также известен как название группы потребителей. Если ID группы потребителей не указан, GeoEvent Server будет назначать статические ID группы потребителей, называемые ID geoevent-потребителей. Этот статический ID группы потребителей является общим для всех экземпляров коннекторов Kafka, когда ID группы потребителей остается неуказанным. Настоятельно рекомендуется указать пользовательский ID группы потребителей. См. Введение в Apache Kafka для получения дополнительной информации о группах потребителей. Свойство показывается, когда для свойства Заменить пользовательскими свойствами Kafka задано Нет. |
Зарегистрированная папка для файла свойств Kafka (Условия) | Зарегистрированная на GeoEvent Server папка, которая содержит файл Kafka .properties. Файл Kafka .properties определяет пользовательские свойства Kafka, когда для параметра Заменить пользовательскими свойствами Kafka установлено Да. Убедитесь, что папка, зарегистрированная на GeoEvent Server, является полным путем к местоположению файла Kafka .properties. Свойство показывается, когда для свойства Заменить пользовательскими свойствами Kafka задано Да. |
Имя файла свойств Kafka (Условия) | Имя файла Kafka .properties, содержащего пользовательские свойства Kafka для конфигурации клиента. Имя файла должно быть указано без имени расширения .properties.
Свойство показывается, когда для свойства Заменить пользовательскими свойствами Kafka задано Да. |
Начать с начала | Указывает, будут ли записи взяты из раздела, начинающегося с начального смещения, или из последнего смещения, зафиксированного для потребителя. По умолчанию – Да.
Примечание:Дополнительные сведения о смещениях см. в разделе О настройке Apache Kafka. |
Создать определение GeoEvent | Указывает, следует ли использовать новое или существующее Определение GeoEvent для данных входящих событий. Определение GeoEvent требуется GeoEvent Server, чтобы понимать поля атрибутов и типы данных входящих событий.
|
Имя определения GeoEvent (новое) (Условия) | Имя, которое присваивается для нового Определения GeoEvent. Если определение GeoEvent с указанным именем уже существует, будет использоваться существующее определение GeoEvent. Первая полученная запись данных будет использоваться для определения ожидаемой схемы последующих записей данных, на основе которой будет создано новое определение GeoEvent. Это свойство показывается, когда для свойства Создать определение GeoEvent задано значение Да, и скрыто, если выбрано значение Нет |
|
Имя определения GeoEvent (существующее) (Условия) | Имя существующего определения GeoEvent для использования при адаптации полученных данных для создания данных событий для обработки сервисом GeoEvent. Это свойство показывается, когда для свойства Создать определение GeoEvent задано значение Нет, и скрыто, если выбрано значение Да |
Пространственная привязка по умолчанию | Известный идентификатор (WKID) пространственной привязки, используемый при построении геометрии из значений полей атрибутов, координаты которых не являются значениями широты и долготы для предполагаемой географической системы координат WGS84, или строки геометрии, не включающие пространственную привязку. Также может быть указано известное текстовое значение (WKT) или имя поля атрибута, содержащего WKID или WKT. |
Ожидаемый формат данных | Шаблон, используемый для соответствия ожидаемым строковым представлениям значений даты / времени и преобразования их в значения даты Java. Формат шаблона следует нормам для класса Java SimpleDateFormat. У этого свойства нет значения по умолчанию. GeoEvent Server предпочитает, чтобы значения даты/времени выражались в стандарте ISO 8601, но несколько строковых представлений значений даты/времени, обычно распознаваемых как значения даты, могут быть преобразованы в значения даты Java без указания Ожидаемого формата даты. В том числе:
Если полученные значения даты/времени выражены с помощью формата, отличного от одного из пяти, показанных выше, необходимо указать Ожидаемый формат даты, чтобы GeoEvent Server знал, как следует адаптировать значения даты/времени. |
Необходима аутентификация | Указывает, требуется ли аутентификация для подключения к кластеру Kafka или брокеру Kafka. По умолчанию Нет.
|
Аутентификация с использованием (Условия) | Указывает протокол безопасности, используемый для защиты кластера Kafka. Доступные протоколы безопасности включают TLS 1.2 и SASL.
Примечание:Используя Kerberos, убедитесь, что у учетной записи операционной системы, от имени которой запущен ArcGIS GeoEvent Server, есть права на чтение файла keytab в настройке/конфигурации Kerberos. Свойство показывается, когда для свойства Требуется аутентификация задано Да. |
Зарегистрированная папка для файла учетных данных (Условия) | Папка, зарегистрированная в GeoEvent Server, которая содержит файл PKI кластера Kafka (сертификат x509). Убедитесь, что папка, зарегистрированная на GeoEvent Server, является полным путем к местоположению сертификата кластера Kafka. Свойство показывается, когда для свойства Требуется аутентификация задано Да. Это свойство применимо только к протоколу TLS 1.2. |
Файл конфигурации учетных данных (Условия) | Имя файла PKI кластера Kafka (сертификат x509). Сертификат и его ключ должны храниться в формате PKCS#12, который выглядит как файл с расширением .p12 или .pfx. Укажите имя файла в дополнении к расширению.
Примечание:Для этого параметра поддерживаются только имя файла сертификата и расширение. Относительные пути к сертификату не должны указываться в этом параметре. Зарегистрируйте полный путь к файлу сертификата с помощью параметра Зарегистрированная папка для файла учетных данных. Свойство показывается, когда для свойства Требуется аутентификация задано Да. Это свойство применимо только к протоколу TLS 1.2. |
Пароль Keystore (Условия) | Пароль для файлв PKI кластера Kafka (сертификат x509). Также известный как частный ключ сертификата. Свойство показывается, когда для свойства Требуется аутентификация задано Да. Это свойство применимо только к протоколу TLS 1.2. |
Тип аутентификации SASL (Условия) | Определяет тип механизма аутентификации SASL, поддерживаемого кластером Kafka. Доступные типы аутентификации SASL включают SASL GSSAPI (Kerberos) и SASL PLAIN.
Свойство показывается, когда для свойства Требуется аутентификация задано Да. Это свойство применимо только к протоколу SASL. |
Участник Kerberos (Условия) | Участник Kerberos для определенного пользователя. Например:
Свойство показывается, когда для свойства Требуется аутентификация задано Да. Это свойство применимо только к протоколу SASL/GSSAPI (Kerberos). |
Использовать Key Tab (Условия) | Указывает, следует ли использовать keytab в настройках Kerberos. По умолчанию – Да.
Свойство показывается, когда для свойства Требуется аутентификация задано Да. Это свойство применимо только к протоколу SASL/GSSAPI (Kerberos). |
Хранить ключ (Условия) | Указывает, следует ли хранить ключ в настройках Kerberos. По умолчанию – Да.
Свойство показывается, когда для свойства Требуется аутентификация задано Да. Это свойство применимо только к протоколу SASL/GSSAPI (Kerberos). |
Имя пользователя (Условия) | Указывает имя пользователя, используемое для аутентификации в кластере Kafka. Также известен как строка подключения с определенными провайдерами облачных ресурсов. Обратитесь к документации выбранного провайдера облачных услуг для получения правильного синтаксиса. Свойство показывается, когда для свойства Требуется аутентификация задано Да. Это свойство применимо только к протоколу SASL/PLAIN. |
Пароль (Условия) | Указывает пароль, используемый для аутентификации в кластере Kafka. Обратитесь к документации выбранного провайдера облачных услуг для получения правильного синтаксиса. Свойство показывается, когда для свойства Требуется аутентификация задано Да. Это свойство применимо только к протоколу SASL/PLAIN. |
Советы и ограничения
- Недостаточное управление и оптимизация потребителей приведет к тому, что некоторые экземпляры входного коннектора Подписка на раздел Kafka для GeoJSON не будут получать никаких данных. Количество потребителей в группе ограничено количеством разделов Kafka topic. Если число потребителей в группе превышает количество разделов, доступных на Kafka topic, избыточные потребители не будут потреблять данные. Чтобы этого не допустить, рассмотрите возможность оптимизации числа потребителей для лучшего соответствия числу разделов в Kafka topic, или добавления разных групп потребителей для каждого коннектора. Для получения подробной информации о потребителях и группах потребителей обратитесь к Документации Kafka.
- Входной коннектор Подписка на раздел Kafka для GeoJSON является клиентом-потребителем Kafka. Такие же соображения могут быть применены к этому входному коннектору и потребуются для любого другого клиента-потребителя Kafka. Например, если этот входной коннектор не получает никаких данных из Kafka topic, а является отдельным клиентом Kafka, учитывайте факторы, связанные с наличием двух клиентов-потребителей. Это касается, в том числе, указанного идентификатора группы потребителей, количества разделов, доступных для topic, и числа существующих потребителей. В качестве альтернативы, если входной коннектор остановлен и запущен в быстрой последовательности, учитывайте последствия для Kafka с точки зрения потребителя. Перебалансировка разделов темы Kafka может помешать немедленному воссоединению входного коннектора в качестве потребителя в той же группе.