计算中间件Linkis
-
Linkis是一个打通了多个计算存储引擎如:Spark、TiSpark、Hive、Python和HBase等,对外提供统一REST/WebSocket/JDBC接口,提交执行SQL、Pyspark、HiveQL、Scala等脚本的计算中间件。
Linkis基于微服务架构,提供了金融级多租户隔离、资源管控、权限隔离等企业级特性,支持统一变量、UDF、函数、用户资源文件管理,具备高并发、高性能、高可用的大数据作业/请求全生命周期管理能力。
基于Linkis计算中间件的架构设计理念,在上层构建了很多的应用系统。目前已开源的有:数据研发IDE工具Scriptis。即将开源的有:数据可视化展示工具、图形化工作流工具和数据质量工具。
Linkis的核心特点有统一作业执行服务:一个分布式的REST/WebSocket服务,用于接收用户提交的各种脚本请求。Linkis目前支持的计算引擎有:Spark、Python、TiSpark、Hive和Shell等;Linkis支持的脚本语言有:SparkSQL、Spark Scala、Pyspark、R、Python、HQL和Shell等。
管理所有系统的所有用户应用,包括离线批量应用、交互式查询应用和实时流式应用,为离线和交互式应用提供强大的复用能力,并提供应用全生命周期管理,自动释放用户多余的空闲应用。
Linkis支持实时管控每个系统和用户的资源使用情况,限制系统和用户的资源使用量和并发数,并提供实时的资源动态图表,方便查看和管理系统和用户的资源。系统和用户级物料管理,可分享和流转,支持全生命周期自动管理;实时的库表结构和分区情况展示。
项目地址: https://gitee.com/WeBank/Linkis
西南地区IT社群(QQ)
- 云南
- 【昆明网页设计交流吧】243627302
- 【昆明nodejs交流吧】 243626749
- 【VUE】838405306
- 【云南程序员总群】343606807
- 【昆明UI设计】104031254
- 【云南软件外包】15547313
- 贵州
- 【PHP/java源码/站长交流群】55692114
- 四川
- 【成都Java/JavaWeb交流】86669225
- 【vaScript+PHP+MySql】116270060
- 【UI设计/设计交流学习群】135794928
- 重庆
- 【诺基亚 JAVA游戏博物馆】 559479780
- 【PHP,Java,Python,C++接单】 442103442
- 西藏