Streams

kafka实战

十年热恋 提交于 2021-02-18 08:16:51
---------------------------------------------------------------------------------------------------- applicationContext - resources.xml <?xml version="1.0" encoding="UTF-8"?> <beans xmlns="http://www.springframework.org/schema/beans" xmlns:xsi ="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation ="http://www.springframework.org/schema/beans http: // www.springframework.org/schema/beans/spring-beans-3.0.xsd"> <!-- load properties --> <bean id="propertyConfigurer" class ="com.agu3.kafka.base.PropertyConfigurer"> <property name="locations"> <list> <value>classpath:/common-kafka

Unity AssetBundle 分割与合并

荒凉一梦 提交于 2021-02-14 22:48:26
介绍 Unity AssetBundle 中的资源非常容易被提取,如果想要阻止简单的提取行为,可以尝试在打包时将文件分割,在运行时将文件合并。 打包 打包时将文件分割成多个文件,这个可以根据需要指定规则处理。例如可以使用随机文件名、分割成随机的份数。 加载 LoadFromStream Unity 2017.4 Unity 2018.4 Unity 2019.3 Unity 2020.1 或更高版本新增了一个从流读取 AssetBundle 的 API,那么可以将多个文件合并为一个文件流供 API 使用。 Unity - Scripting API: AssetBundle.LoadFromStream 虽然通过这个 API 可以自定义 AssetBundle 加载方式,包括加密、多文件读取、内存中读取等等。但是有一个致命缺点:使用时占用文件打开数量,而操作系统对文件打开数量是有上限的。 5.5.4. iOS file handle overuse Current versions of Unity are not affected by this issue. In versions prior to Unity 5.3.2p2, Unity would hold an open file handle to an AssetBundle the entire time that

【原创】大数据基础之ETL vs ELT or DataWarehouse vs DataLake

百般思念 提交于 2021-01-30 02:51:16
ETL ETL is an abbreviation of Extract, Transform and Load. In this process, an ETL tool extracts the data from different RDBMS source systems then transforms the data like applying calculations, concatenations, etc. and then load the data into the Data Warehouse system. In ETL data is flows from the source to the target. In ETL process transformation engine takes care of any data changes. ELT ELT is a different method of looking at the tool approach to data movement. Instead of transforming the data before it's written, ELT lets the target system to do the transformation. The data first copied

Spring Boot 集成 Kafka Stream

只愿长相守 提交于 2021-01-30 01:44:40
Kafka 从0.10版本开始支持流处理,我们可以使用 Kafka Streams 来开发实时应用程序。本章介绍 Spring Boot 集成 Kafka Streams 进行流式计算。 Spring Boot 集成 Kafka 的基本配置和用法在 “Spring Boot 集成 Kafka” 有介绍,这里不再详述。 依赖 使用 Kafka Streams 流处理,在集成 Spring Kafka 的基础下,还需要引入: <dependency> <groupId>org.apache.kafka</groupId> <artifactId>kafka-streams</artifactId> </dependency> 配置 在 application.yml 配置 spring: kafka: streams: application-id: test-kafka-stream # 默认取springboot应用名 bootstrap-servers: ${KAFKA_HOST:localhost}:${KAFKA_PORT:9092} # 会覆盖 spring.kafka.bootstrap-servers 配置 # auto-startup: true properties: default: key: serde: org.apache.kafka.common

WebRTC 的现状和未来:专访 W3C WebRTC Chair Bernard Aboba

谁说胖子不能爱 提交于 2021-01-19 08:39:49
WebRTC 无疑推动和改变了互联网视频,而这仅仅是刚刚开始,除了大家熟悉的 WebRTC-PC、Simulcast 和 SVC,有太多的新技术和新架构出现在 WebRTC 新的标准中,比如 WebTransport、WebCodecs、AV1、E2EE、SFrame、ML 等等,这篇文章详细介绍了未来的 WebRTC-NV,不容错过。 说明: 本文为阿里云视频云翻译的技术文章 原文标题:WebRTC Today & Tomorrow: Interview with W3C WebRTC Chair Bernard Aboba 原文链接: https://webrtchacks.com/webrtc-today-tomorrow-bernard-aboba-qa/ 作者:乍得・哈特(Chad Hart) 翻译:忘篱、致凡、开视、仲才、海华 Bernard 是一直聚焦在 RTC 领域的专家,W3C WebRTC 联席 Chair,WEBTRANS 和 AVTCORE 的联席 Chair,ORTC、WebRTC-SVC、WebRTC-NV 用例、WebRTC-ICE、WebTransport 和 WebRTC-QUIC 等文档的主编,微软 Teams 媒体组的首席架构师。 WebRTC 标准现状 作为 W3C WebRTC 工作组 的 Chair 之一,Bernard 是 WebRTC

Docker

不问归期 提交于 2021-01-16 05:57:22
docker是一个云计算平台,他利用了linux的lxc、AUFU、Go语言、cgroup实现了资源的独立,可以很轻松的实现文件、资源、网络等隔离,他最终的目标是想实现类似PAAS平台的应用隔离,据说将要开源,希望大家关注 Notable features Filesystem isolation: each process container runs in a completely separate root filesystem. Resource isolation: system resources like cpu and memory can be allocated differently to each process container, using cgroups. Network isolation: each process container runs in its own network namespace, with a virtual interface and IP address of its own. Copy-on-write: root filesystems are created using copy-on-write, which makes deployment extremeley fast, memory-cheap and

Java 迭代接口:Iterator、ListIterator 和 Spliterator

邮差的信 提交于 2021-01-15 19:11:04
1. 简介 当我们使用 for 或 while 循环来遍历一个集合的元素, Iterator 允许我们不用担心索引位置,甚至让我们不仅仅是遍历一个集合,同时还可以改变它。例如,你如果要删除循环中的元素,那么 for 循环不见得总是可行的。 结合自定义的迭代器,我们可以迭代更为复杂的对象,以及向前和向后移动,并且知晓如何利用其优势也将变得非常清楚。 本文将深入讨论如何使用 Iterator 和 Iterable 接口。 2. Iterator() Iterator 接口用于迭代集合中的元素( List , Set 或 Map )。它用于逐个检索元素,并在需要时针对每个元素执行操作。 下面是用于遍历集合与执行操作的方法: .hasNext() :如果还没有到达集合的末尾,则返回 true ,否则返回 false .next() :返回集合中的下一个元素 .remove() :从集合中移除迭代器返回的最后一个元素 .forEachRemaining() :按顺序为集合中剩下的每个元素执行给定的操作 首先,由于迭代器是用于集合的,让我们做一个简单的包含几个元素的 ArrayList : List<String> avengers = new ArrayList<>(); // Now lets add some Avengers to the list avengers.add("Ant

外行人都能看懂的WebFlux,错过了血亏!

限于喜欢 提交于 2021-01-14 07:59:37
前言 只有光头才能变强。 文本已收录至我的GitHub仓库,欢迎Star: https://github.com/ZhongFuCheng3y/3y 本文知识点架构: 知识点架构 如果有关注我公众号文章的同学就会发现,最近我不定时转发了一些比较好的WebFlux的文章,因为我最近在学。 我之前也说过,学习一项技术之前,先要了解为什么要学这项技术。其实这次学习 WebFlux 也没有多大的原生动力,主要是在我们组内会轮流做一次技术分享,而我又不知道分享什么比较好… 之前在初学大数据相关的知识,但是这一块的时间线会拉得比较长,感觉赶不及小组内分享(而组内的同学又大部分都懂大数据,就只有我一个菜鸡,泪目)。所以,想的是:“要不我学点新东西搞搞?”。于是就花了点时间学 WebFlux 啦~ 这篇文章主要讲解什么是 WebFlux ,带领大家入个门,希望对大家有所帮助(至少看完这篇文章,知道WebFlux是干嘛用的) 一、什么是WebFlux? 我们从 Spring 的官网拉下一点点就可以看到介绍 WebFlux 的地方了 WebFlux的简介 从官网的简介中我们能得出什么样的信息? 我们程序员往往 根据不同的应用场景选择不同的技术 ,有的场景适合用于同步阻塞的,有的场景适合用于异步非阻塞的。而 Spring5 提供了一整套 响应式 (非阻塞)的技术栈供我们使用(包括Web控制器、权限控制

外行人都能看懂的WebFlux,错过了血亏

房东的猫 提交于 2021-01-14 07:42:30
前言 只有光头才能变强。 文本已收录至我的GitHub仓库,欢迎Star: https://github.com/ZhongFuCheng3y/3y 本文知识点架构: 知识点架构 如果有关注我公众号文章的同学就会发现,最近我不定时转发了一些比较好的WebFlux的文章,因为我最近在学。 我之前也说过,学习一项技术之前,先要了解为什么要学这项技术。其实这次学习WebFlux也没有多大的原生动力,主要是在我们组内会轮流做一次技术分享,而我又不知道分享什么比较好… 之前在初学大数据相关的知识,但是这一块的时间线会拉得比较长,感觉赶不及小组内分享(而组内的同学又大部分都懂大数据,就只有我一个菜鸡,泪目)。所以,想的是:“要不我学点新东西搞搞?”。于是就花了点时间学WebFlux啦~ 这篇文章主要讲解什么是WebFlux,带领大家入个门,希望对大家有所帮助(至少看完这篇文章,知道WebFlux是干嘛用的) 一、什么是WebFlux? 我们从Spring的官网拉下一点点就可以看到介绍WebFlux的地方了 WebFlux的简介 从官网的简介中我们能得出什么样的信息? 我们程序员往往根据不同的应用场景选择不同的技术,有的场景适合用于同步阻塞的,有的场景适合用于异步非阻塞的。而Spring5提供了一整套响应式(非阻塞)的技术栈供我们使用(包括Web控制器、权限控制、数据访问层等等)。

Apache Flink 零基础入门(二十)Flink connector

£可爱£侵袭症+ 提交于 2021-01-14 03:55:05
内置source和sink 内置source包括从文件读取,从文件夹读取,从socket中读取、从集合或者迭代器中读取。内置的sink包括写文件、控制台输出、socket 内置connectors Apache Kafka (source/sink) Apache Cassandra (sink) Amazon Kinesis Streams (source/sink) Elasticsearch (sink) Hadoop FileSystem (sink) RabbitMQ (source/sink) Apache NiFi (source/sink) Twitter Streaming API (source) HDFS Connector 这个connector提供了一个sink,可以写分区到任何一个文件系统(只要支持hadoop filesystem就可以)。 来源: oschina 链接: https://my.oschina.net/u/946962/blog/3106670