На текущем проекте у нас начинает активно использоваться Apache NiFi в качестве основного ETL/ELT-инструмента. NiFi используется для получения данных из различных источников (Kafka, REST, HDFS) и подготовки данных для их последующей загрузки в основное хранилище на базе GreenplumЧитать полностью »
Рубрика «apache nifi»
Готовим Json в Apache NiFi или снова Jolt Transform
2021-10-24 в 13:33, admin, рубрики: apache nifi, big data, data engineering, jolt, json, NiFiApache NiFi. 28 ноября в лектории Deworkacy
2019-11-14 в 13:11, admin, рубрики: apache nifi, open source, Аренадата Софтвер, Блог компании Ростелеком, конференции, микросервисы, Ростелеком, Центр разработки Тинькофф, эр-телекомПривет!
Через две недели пройдет наш митап, посвященный Apache NiFi, полезному OpenSource-инструменту по доставке данных. Поговорим о живых кейсах и обсудим различные технические подходы его использования.
Спикеров будет 4, один человек от нас и коллеги по цеху от Центра разработки Тинькофф, ЭР-Телеком и Аренадата Софтвер.
Под катом — список докладов и ссылка на регистрацию.
Читать полностью »
Как построить IIoT архитектуру своими руками
2018-07-03 в 4:54, admin, рубрики: apache nifi, IIoT, IoT, minifi, Блог компании ITSumma, Интернет вещей, Разработка на Raspberry PiЗа последний год мы спроектировали (и продолжаем поддерживать) несколько IIoT проектов. Возможно, вы слышали о IIoT, но, на всякий случай, мы попробуем максимально просто объяснить что это такое и почему это интересно разработчикам, архитекторам и администраторам высоконагруженных решений.
IoT — интернет вещей — подразумевает управление устройствами, предназначенными для выполнения простых бытовых задач (открыть ворота гаража, когда подъезжает машина, включить свет по датчику движения или по команде, следить за температурой в помещении), то под IIoT — индустриальным интернетом вещей — обычно имеется в виду “оцифровка” данных с производств, на основе которых можно провести экспертный анализ, часто при помощи машинного обучения.