# 数据资产管理平台 version 7.3
# 7.3.1
build号:1078
发布日期: 2024-07-03
# 新增特性
# 数据安全
- 安全分类分级定义:新增安全分类分级定义。安全分级能够与资产关联,安全等级能够和资源、信息项、元数据表、字段等相关资源绑定。
- 敏感规则:内置敏感规则,用于数据探查时的探查规则配置。支持页面自定义,配置时需要关联安全等级以及对应的脱敏和加密规则,脱敏和加密规则分开定义,主要针对不同数据使用场景下的安全算法选择。
- 敏感数据探查:新增敏感数据探查,根据敏感数据规则,对于系统下相关数据表内容进行自动探查,识别敏感数据字段,自动匹配安全等级并建立关联。支持历史探查记录结果查看,了解探查数据表、字段和匹配字段情况。
- 探查结果统计:提供探查结果统计,以系统维度了解敏感数据匹配情况,并根据安全等级区分敏感数据分布。
- 脱敏加密算法:提供了内置脱敏加密算法,支持规则自定义。提供了API接口,支持三方直接调用接口,完成数据脱敏及加解密。
- 结合数据共享下的安全应用:在资产申请时,根据字段关联的敏感规则,在资源准备时由管理员选择预设脱敏或加密规则,保证特殊敏感字段的统一安全共享控制。如果管理员不配置,则自动关联脱敏规则进行数据控制。
说明:
- 目前资产申请的安全控制仅支持原生数据服务方式的数据共享,其他方式待结合数据开发平台来实现。
- 操作日志安全审计:增加了操作日志安全审计,提供了平台操作日志查询功能。
# 数据资产
- 资产模版:新增资产模版配置,支持自定义资产属性,在编目/变更/导入/详情中自动显示或录入。
- 样例数据采集工具:提供样例数据采集工具,实现自动样例数据采集,支持多种采集策略,提供样例数据脱敏加密采集存储。
# 数据标准
- 系统落标统计:以系统视角查看落标情况,了解系统表、字段标准覆盖率和落标成功率,支持字段落标详情查看浏览。
# 元数据
- 采集器集成模式部署:新增元数据采集器集成方式,可以直接将采集器与数据资产平台集成,实现自动化的元数据采集场景。集成模式下仅保留了元数据采集能力,相关的数据地图、链路分析、变更订阅等将无法正常提供服务,如果有此类需求,应当采用原有的独立模式部署,即完整安装元数据全部组件。
- 采集器管理:新增采集器管理页面,在集成方式下支持采集器引擎的配置引入,在独立模式中仅支持查看采集器状态。
# 通用
- 帮助文档链接:平台各功能列表或表单页面增加帮助文档链接,点击?图标即可跳转到对应操作说明页面,支持内外网地址切换配置,支持帮助文档本地化部署。
# 功能优化
# 通用优化或调整
- 基础微服务版本升级:升级EOS微服务平台版本至8.3.1。
- 页面UI整体优化:首页及表单页面UI风格统一,采用通用模版布局。
- 整体菜单逻辑调整,将数据资产、数据标准、数据模型、元数据、数据安全、数据服务由原本的二级菜单统一提升到一级菜单,方便快速找到功能入口。
- 对原有数据建模菜单和模型管理模块功能页面合并调整。
- 删除【我的项目】菜单。
- 【模型管理】-【模型管理】名称修改为【模型管理】-【我的系统】。
- 平台通用数据权限调整,增加部门管理员角色。部门管理员可以维护和管理部门下的所有资产、申请、模型等信息。目前平台权限模块调整为三层,从小到大分别是系统管理员、部门管理员和资产管理员。
- 系统管理员在系统维护时定义,可以管理系统下的资产和模型信息。
- 部门管理员和资产管理员在应用管理中配置,部门管理员可以管理部门下所有系统以及系统下所有资源。资产管理员则是平台的超级管理员,可以管理全部资源。
- 其中数据标准比较特殊,是通过分域管理单独维护,因此不受平台通用权限控制。
- 导入模版优化,增加模版说明,必填属性红色高亮显示。所有导入模版增加样例数据。
- 操作日志记录优化:提供操作日记开关,关闭后将日志记录在本地文件中保存,不再数据库中记录。这种方式会影响系统中操作日志的检索,请按需配置。
- 系统统计通用定时配置优化:支持application-damp.properties中设置各统计和监控定时调度时间,包含首页指标定时统计、系统落标监控定时统计以及标准推荐定时统计。
# 数据资产
- 资产浏览删除元数据目录:由于权限问题,暂时删除了元数据目录。用户可以在元数据检索查看有权限访问的元数据信息。
- 逻辑实体编目优化:增加逻辑实体与技术元数据关联配置,支持从从模型关系中自动获取或手动建立关联。关联后的逻辑实体资产可以查看已关联物理表清单,在资产申请时平台将基于关联的技术元数据自动生成原生数据服务。
- 编目资源类型扩展:新增服务、报表、文件资源编目支持,支持批量导入和手动录入。其中服务支持平台原生服务发布,也支持三方接口注册。编目类型支持在线配置控制,可以隐藏不需要的编目类型,在平台参数配置调整。
- 资产授权:支持资产授权功能,实现资产检索时可见范围的权限控制。支持部门、角色方式的批量授权。
- 资产批量发布:提供草稿状态资产批量发布功能,发布时不需要经过流程审批直接发布。该功能仅资产管理员可用。
- 资产分类批量导入:新增资产分类批量导入。
- 系统批量导入:新增系统批量导入。
- 资产编码生成逻辑优化:不再使用uuid作为资产编码,采用固定前缀+流水码方式生成,固定前缀可以在平台参数配置调整。
# 数据标准
- 标准批量发布逻辑调整:标准批量发布逻辑参照资产批量发布,发布后不再需要走审批流程,从草稿状态直接变更为发布状态。
- 标准模版定义优化:在标准分域下新增扩展属性,新增标准作用范围配置,例如增加字段仅在数据元下显示维护,不影响其他类型标准。
- 支持数据元和元数据关联关系的批量导入,方便批量建立关联关系。
- 代码标准代码属性增加:代码值增加了“启用/停用状态”和描述字段,支持批量导入。
- 数据元质量检核规则生成逻辑调整:
# 数据模型
- 新增模型跨层级关系导入:支持概念模型-逻辑模型-物理模型-技术元数据之间的跨层级关系,支持excel导入/手动配置/模型工具开发建立关联关系,其中逻辑模型可以关联多个物理模型。导入后逻辑实体编目时可以自动带出已关联的技术元数据。
- 模型直接发布:提供系统直接发布功能,在检核/发布状态下,资产管理员可以直接发布系统下的模型信息,不需要模型检核和发布流程。
# 数据服务
- 支持生产环境数据源切换:支持已发布服务的数据源在线切换,对调用方无影响。主要针对数据源切换时的快速调整。
- 发布流程配置:支持发布流程配置,可以跳过预发布环节,开发提交后直接发布服务。多用于一些固定单个数据源的场景,不区分测试数据源和生产数据源,简化配置操作。可以在平台参数配置调整。
- 结果集服务动态参数支持:配置结果集服务时支持动态参数配置,通过通配符设置自定义参数,可以实现查询条件的灵活设置以及部分场景下的sql片段嵌入。由于可能存在的sql注入风险,因此该功能请谨慎使用。
- 服务分类显示优化:在服务开发配置时,主题分类不作为必填项。在没有设置分类时,可以在左侧“未分类”节点下统一查找。
# 问题修复
修复了如下问题:
- DAMPWH-165:资产检索,图示位置提示是支持按照“字段”来检索,实际搜索结果不会出任何结果,建议产品支持按照“字段编码/字段名称”来搜索。
- DAMPWH-161:流程中心批量审批对于资产流程不能正常通过审批(无法改变流程状态),屏蔽批量审批按钮。
- DAMPWH-160:标准分类管理,导入时,导入分类和已有分类做重复校验。
- DAMPWH-159:标准管理-分类管理,分类数据过多时无滚轮下拉。
- DAMPWH-158:数据元标准文件导入时未对必填项做校验。导致导入的数据部分必填项为空。并且导入的管理状态不管填什么是启用,如果写了引用代码标准,不存在的代码标准也会被引用,但进去没有数据。
- DAMPWH-157:标准分类导入,部分excel导入后页面闪烁没反应,也没有页面报错,部分导入后,解析成功,提交后实际没数据,数据库也没有数据,整体功能需要修复测试一下。
- DAMPWH-155:模型开发中,逻辑模型拖入数据表后,推出模型开发,再次进入模型开发逻辑模型,拖入数据元标准时,数据元标准字段没法添加。
- DAMPWH-153:代码标准文件导入时未对必填项做校验。导致导入的数据部分必填项为空。同时没有校验编码唯一,可以导入两个相同的代码标准。导入后归口管理部门为空,启用状态默认为启用。
- DAMPWH-152:数据资产-资产管理,资产生成服务中,主题分类为非必填,数据服务中创建服务,却是必填项。当资产生成服务后,再进行服务的查看,则会看到必填项为空的情况
- DAMPWH-151:数据服务-服务开发,多表模型选择关联后,字段列表默认全选,但是下一步会报错有重复字段。
- DAMPWH-150:数据服务-服务生成,多表模型时,默认全选,但如果选择的表由相同字段,则会提示有哪些相同字段,报错无法下一步。
- DAMPWH-149:模型管理-模型开发,批量生成物理模型时,没有对应的中文名称。但直接单个拖拽生成的物理模型有对应的中文名称
- DAMPWH-147:维度管理-维度导入,变更发布的代码标准不能导入。变更发布应当算作已发布的一种类型,但进行导入的时候却无法选择
- DAMPWH-146:数据资产,数据元标准导出数据元标准时,数据元标准关联了代码标准,但导出时代码标准清单却没有对应的值
- DAMPWH-145:模型开发在模型数量过多时,会加载缓慢。
- DAMPWH-144:模型查询,模型详情中,实体分页按钮太靠下,无法正常显示。
- DAMPWH-143:创建新的数据元标准,手动录入字段名,使用词根匹配,字段名错误。
- DAMPWH-142:数据资产平台数据服务服务授权模块需要增加过滤条件,方便在接口过多时候快速查询检索,条件:1、授权单位,2、授权应用
- DAMPWH-141:新增或导入词根时,页面显示字段长度为100,实际数据库储存为64,输入64<100的字符会报错500。
- DAMPWH-140:数据资产的页面的表单,部分状态类型的字典列,有时候会显示字典的编码数字。跳转到主数据页面再返回后会发生。
- DAMPWH-138:词根导出时,最大一次导出数据只有1000条,扩大导出限制。
- DAMPWH-137:系统选择元数数据源时,会把元数据的数据源名称前加数字和#,每次选择提交后都会增加。
- DAMPWH-136:双节点部署,连接同一个数据库,首页数据叠加重复汇总。
- DAMPWH-135:数据元标准导入时,是否引用代码标准:是,值域:代码标准的名称,导入后查看此标准时,值域为代码标准的识别码,且点进去为空没有数据。
- DAMPWH-134:数据元标准使用模板导入数据时,一直报错模板错误。
- DAMPWH-133:数据元标准引入代码标准后 导出这条标准的时候 是否引用代码标准为否 值域是有的 代码标准清单为空
- DAMPWH-132:词根管理的导入,在页面中添加词根的时候中文名、英文全名、和英文简称都是必填的,但是导入的excle不会限制必填也能导入成功
- DAMPWH-131:资产的分类里,如果把初始的主题删除之后,数据服务的主题分类树就加载不出主题了,尽管把初始的主题新建一个也没用,需要修改数据库里的数据
- DAMPWH-130:词根搜索无法使用,但页面无反应。
- DAMPWH-129:十二点后,添加问题上报,页面中显示问题上报的时间不准确,少十二个小时。
- DAMPWH-121:在模型检核任务中,关于数值类型字段,长度匹配元数据长度,而元数据存储数值类型使用精度和位数,导致检核不通过。
- DAMPWH-39:新建了一个系统,在模型管理时进行模型开发,但实际未新建任何模型。退出新建页面后出现模型提交标签,点击后出现一个红色×,但没有任何提示。
# 7.3GA
build号:1050
发布日期: 2024-01-15
# 新增特性
【通用功能】:
- 升级EOS微服务平台版本至8.3LA1(8.3.0)。
- 优化了资产检索算法,支持中英文模糊匹配及中文分词检索。
- 优化了部分页面显示样式及操作体验。
【数据建模】:
- 版本管理功能
- 支持各版本之间模型数据全量对比
- 支持对比统计
- 支持差异化(新增/修改/删除)对比详情查看
- 导入管理
- 支持概念/逻辑/物理模型Excel导入模板下载
- 新增概念/逻辑/物理模型单次最大可导入数量限制及配置修改
- 支持概念/逻辑/物理模型筛选部分实体导入
- 画布性能优化
- 支持画布内单个实体的收缩、展开及查看详情
- 优化了大数据量下的画布模型数据显示
# 问题修复
修复了如下问题:
- DAMPWH-27:数据服务->服务开发的服务,在服务授权->授权详情,接口测试失败,测试结果,返回"satus":500的错误;
- DAMPWH-28:数据资产->数据建模建模环境中,逻辑模型导入Excel文件后生成物理模型时,字段默认全部为varchar类型导致映射失败;
- DAMPWH-30:数据资产->数据模型建模环境下,逻辑模型、物理模型导出为Excel文件时,Sheet名称出现特殊字符报错;
- DAMPWH-44:DAMP7.2GA连接达梦库的问题,申请系统显示“undefined&undefined”;
- DAMPWH-47:数据资产,资产检索,结果显示红色高亮,但是对数据的检索结果显示不准确;
- DAMPWH-50:数据资产,数据服务-服务授权菜单里删除某一个服务不成功,后台报错:dm.jdbc.driver.DMException;
- DAMPWH-51:数据资产,系统管理->编辑系统时,系统管理人员无法选择;
- DAMPWH-52:数据资产,资产管理-资产编目-选择基于逻辑实体编制,资产审批时回退再提交后资产详情内无数据;
- DAMPWH-58:数据资产平台,数据标准落标后,检核表结构信息,数据质量检核规则和结果没有问题,但是统计结果显示有问题,应该显示不通过,但是显示了通过;
- DAMPWH-59:数据建模生成库表时报错;数据建模的Excel文件损坏;
- DAMPWH-60:基于逻辑实体批量编目资产时,流程中的实体名称显示错误;
- DAMPWH-61:服务授权中查看服务详情或者进行编辑时,授权应用显示为数字;
- DAMPWH-62:知识库文件下载异常;
- DAMPWH-63:问题上报页面上传文件后再删除报错;问题上报流程无法下载上传的文件;
- DAMPWH-54:资产发布流程表单页面中,先点击流程图tab页,再回到表单信息tab页,点击资产属性别名,显示暂无数据;
- DAMPWH-65:数据资产-元数据管理-数据浏览页面,分页栏没有当前页和共多少条,可以一直向后翻页;
- DAMPWH-66:数据建模,修复菜单树获取数据的bug;
- DAMPWH-68:“数据资产”-“资产管理”-“系统管理”,新增应用系统,新增数据源的时候如果不写数据库版本,在“模型管理”-“模型管理”,点击模型开发,建完模型后生成库表的时候会报错;
- DAMPWH-69:资产申请时,如果流程中存在同一个资产的申请,后端会报错:资产已发起申请;
- DAMPWH-71:数据资产与元数据集成时,星环数据平台的数据源不适配,无法通过资产平台推送到元数据挂载点,数据源参数丢失,需要在元数据内手动配置;
- DAMPWH-74:数据资产,数据建模低开环境星环数据源表拖拽后字段不显示;
- DAMPWH-79:数据资产-标准管理-分类管理批量导入时,部分数据导入不成功,缺失;
- DAMPWH-73、75、82:数据资产同步元数据数据源时,数据错误或缺失;
- DAMPWH-81:数据服务,服务生成,单表模型,模型数据搜索结果为全部数据,无法筛选;
- DAMPWH-83:标准管理-->标准检索菜单下,代码标准有两个标识码一样的标准,且代码标准的统计值与实际不匹配,看这样是相同标识码的只统计了一次,数据元标准的统计值不准确;
- DAMPWH-90:“元数据管理”菜单下“数据浏览”页面右上角的搜索无法使用;
- DAMPWH-93:数据元标准管理和代码标准管理查询慢;
- DAMPWH-94:数据建模导入大批量数据后, 菜单树查询超时, 无法正常加载;
- DAMPWH-95:数据资产-标准管理-落标情况监控时查询报错:统计失败,出现异常;
- DAMPWH-96:1.数据建模中的逻辑模型、物理模型右键菜单,点击导出Excel,导出的表格文件在office中无法正常打开;
- DAMPWH-98:资产导入后,获取不到已导入的逻辑模型内表的字段和字段值;
- DAMPWH-99:数据资产,标准管理-数据元标准管理查询速度慢;
- DAMPWH-100:系统录入业务术语标准、数据元标准之后,执行标准推荐初始化之后,标准推荐中没有出现数据;
- DAMPWH-101:数据资产DAMP资产批量导入,上传文件成功,解析成功后,点击提交后无反应;
- DAMPWH-102:资产发布时,选择基于逻辑实体发布,资产字段类型为空;
- DAMPWH-104:资产浏览-元数据目录,进行系统筛选后,点击详细的元数据则,无法弹出详细信息;
- DAMPWH-105:数据资产导入时解析失败:所属下模型名称或者schema未查询到.数据资产导出全部时,excel表内容为空;
- DAMPWH-106:数据元标准管理,数据标准与数据资产进行关联时,无法查询到数据资产列表;
- DAMPWH-108:资产管理-系统管理页面,点击新增应用系统,弹出新增系统信息页面;在新增系统信息页面,数据存储情况若是选择元数据数据源时,弹出选择数据源弹框;在选择数据源弹框页面,按数据源名称进行搜索,搜索按钮无效。
- DAMPWH-109:数据服务接口body参数的查询条件与数据库查询条件不一致。