2017-03-13 16:39:09 来源:
宁波大红鹰学院电子商务学院副院长 邹华胜 商品交易市场是我国商品流通领域的中心,直面产业客户,处于生产、贸易的第一线,既是市场各方进行市场竞争、价格博弈、商品买卖活动的平台,又是实体企业对接其他产业的重要纽带,在数据积累、检索、处理、分析和应用等方面具有巨大的优势。依托商品交易市场进行数据挖掘和分析,对提升市场辅助决策能力、增强风险把控能力、业务创新能力和客户服务能力具有重要意义。 (一)提高行业企业协同发展的能力 服务实体经济,促进商品流通,是商品交易市场的立身之本。传统商品交易市场由于大量非标商品的存在,以及物流、仓储方面的管理良莠不齐,导致商品交易成本高、效率低、风险大。而运用大数据技术可实现全行业之间、行业之间,从生产、运输、仓储、交易等环节实现精准化管理,降低生产成本、物流仓储成本和交易成本,最终实现行业协同发展目标。 (二)提高辅助企业预测决策能力 传统企业往往根据经验和简单的数据分析进行预测和决策,其结果往往是偏离实际,甚至造成巨大浪费或损失。商品交易市场可依靠电子交易平台后台数据库的大量数据,利用大数据分析工具,根据企业业务需要建立数据分析模型,开展数据分析,根据数据分析结果进行预测、决策,不仅提高了决策的精准度,而且提高了企业效率,也极大地减少了资源浪费。 (三)提高商品交易市场风险预判防范能力 大数据分析系统可以有效地对商品交易市场进行实时监控,提高风险的预判和防范能力。商品交易市场可以运用大数据对用户的资金流水、财务状况、交易数据、投诉等数据进行研究分析,实时监控用户的财务状况和交易行为,及时发现违法、违规行为,防范风险。 (四)提高对市场和交易商的信用管理能力 通过大数据技术,以仓单为核心,建立围绕仓单信息的企业信用数据库,能从根本上转变因仓单信息不透明导致贸易融资难问题。银行通过联网商品交易市场数据库,可查询贷款企业的全部贸易信息和仓单信息,不仅大幅度减轻银行信息搜集成本,而且根据系统数据可以做出合理决策,解决企业融资难的问题。 我国商品交易市场大数据应用体系架构可以采用三层结构,即大数据组织管理层、大数据技术支撑层和大数据应用服务层,如图 1所示。其中,大数据组织及管理层旨在实现大数据组、存储以及管理;大数据技术支撑层是其关键部分,主要包括实现大数据分析与挖掘的工具与技术;大数据应用服务层的功能是用户接口,提供大数据应用服务。 图10-1 我国商品交易市场大数据应用体系架构 (一)我国商品交易市场大数据的组织管理 从商品交易市场的数据结构化视角看,其所涉及的结构化数据包括商品数据、客户信息、市场信息以及物流信息等;非结构化信息数据包括社交信息、流媒体信息、地理位置信息等。从商品交易市场的数据数量看,与我国商品现货流通相关的互联网、物联网、移动互联网以及各种传感器每天都在产生或接收大量的数据。 大数据存储与管理要用存储器把采集到的数据组织、存储起来,建立相应的数据库,并进行管理和调用。面对如此巨大的数据,解决组织、存储和管理问题,这是大数据处理、分析和应用的前提。我国商品交易市场的大数据存储管理解决方案,目前主要包括HDFS、Tachyon以及Quantcast File System等。 (二)我国商品交易市场大数据的技术支撑 我国商品交易市场的大数据应用工具与技术,主要分为三大类:一类是基于传统数据仓库与OLAP(联机分析处理)的分析应用与技术;第二类是对非结构化数据的分析技术。常见的大数据建模及分析工具包括SAS、SPSS Moderler、R、Tableau,以及QlikView等;第三类是为保证信息数据的完整性、保密性和可靠性,所需的信息安全预防保障、日常监控和事后应急补救等全方位的数据信息安全保障系统和软件技术,例如SD-DSM系统等。 (三)我国商品交易市场大数据的应用服务 大数据应用服务层的功能是为用户提供方便、可视化的用户接口,同时提供常规的应用服务,尽量满足用户需求。商品交易市场大数据应用服务可以从政府、行业、企业三个层面进行分析。 首先,从政府层面,通过对接大数据应用服务层,获得商品交易市场宏观数据,可以准确把握我国商品交易市场大数据应用与发展现状,制定相关政策,统筹我国商品交易市场大数据研究、应用和发展,并确保数据安全,为政府决策提供必要的支撑。 其次,从行业层面,能够比较全面获得行业生产、流通、交易、消费的大数据,通过挖掘和分析获得指导行业发展有价值的信息,如行业市场规模、主要流通环节和主要客户以及分布,并能够预测未来发展趋势,指导行业按照需求侧进行组织和生产,实现社会资源高效利用和最大节约;同时,能够对市场、交易环节的潜在风险进行动态监控,及时消除或降低风险,确保市场的正常、稳定。 最后,从企业层面,主要是通过大数据分析和利用,为我国商品交易市场和企业的经营活动提供指导。对于交易市场而言,一是有利于通过收集、分析商品交易市场数据,如商品数据、客户信息、交易数据、物流数据等,为企业自身的发展、规划和决策提供依据;二是可以通过大数据分析及时对商品交易市场动态交易行情进行实时监控,加强风险的可控性和管理力度,实现精准化管理,降低交易市场风险;三是可以及时了解市场和客户的真实需求,及时研发、创新市场交易品种和市场交易服务模式。 (一)保持现有系统增加大数据应用 保持现有商品交易市场平台,增加大数据应用模块,构建新的商品交易市场大数据应用系统。该策略的优点:在保持原有系统稳定运营的条件下,实现新增功能,省时、省力、省钱,投资少就见效快;缺点是新增加功能模块与系统耦合性差从而容易造成新增模块功能的不稳定,尤其是新增模块较多时其功能难以稳定可靠。这种方法适合交易规模较小而、尝试利用大数据的商品交易市场。 (二)改造现有系统实现大数据应用 部分改变现有商品交易市场平台,增加大数据应用模块,建立新的商品交易市场大数据应用系统。该策略的优点:在基本保持原有系统运营的前提下,增加功能模块,用可预控的投资实现大数据应用;缺点是对原有系统部分改变容易造成原有系统功能不稳定。这种方法适合中等和较大规模品交易市场。 (三)新建商品交易市场大数据应用系统 按照规划要求建设商品交易市场大数据应用系统,这种情况适合新建商品交易市场。其特点是:系统耦合性紧密,功能易于扩充,能够充分发挥大数据应用系统的性能;但投资大,见效慢,人才匮乏,投资风险较大。 (一)加强组织领导 由商务部和商品交易市场行业协会牵头,建立跨部门、跨地区的行业大数据应用协同推进机制,加强对重大问题的规划、协调,统筹我国商品交易市场大数据应用和发展。设立我国商品交易市场大数据应用发展领导小组和专家委员会,为我国商品交易市场大数据应用与发展项目工程实施提供决策支持。 (二)强化政策扶持 研究我国商品交易市场大数据应用与发展的现状,制定扶持我国商品交易市场大数据应用与发展的相关政策,在财政扶持、金融支持、人才支持等方面积极扶持,鼓励企业积极开展并实施大数据应用。 (三)发挥引领作用 加强大数据应用知识的培训,提升对大数据及其价值的认识。通过政策扶持,建立一批商品交易领域大数据应用示范企业,发挥示范企业在本地区的引领作用,并以示范企业为核心建立大数据应用示范区。 (四)支持引导创新 运用市场机制集聚创新资源,吸引国内外知名大数据分析和应用服务企业建设大数据研发中心、工程技术(研究)中心,支持信息服务骨干企业、科研机构联合国内外知名大数据企业或研究机构,成立“产学研用”一体的大数据专业研究院或实验室,开展大数据关键技术、解决方案等相关研究,共同推进研究成果市场化应用。 成立大数据产业和应用联盟,汇聚政产学研用各界资源,共同推进面向应用的大数据相关理论研究、技术研发、数据共享、应用推广,形成开发合作、协同发展的大数据技术、产业和应用生态体系。 (五)强化数据安全 建立集中统一的信息安全保障管理体制,加快制定信息采集和管控、敏感数据管理、数据交换、个人隐私、数据权益和合理利用等领域的大数据地方性法规和政府规章,明确大数据采集、使用、开放等环节涉及信息安全的范围、要求和责任。探索建设面向政府信息采集和管控、敏感数据管理、数据交换标准和规则、个人隐私等领域的大数据安全保障制度,明确大数据采集、使用、开放等环节涉及信息安全的范围、要求和责任,确保国家利益、社会安全、商业秘密、个人隐私等信息不受侵犯。 (六)加快人才培养 建立人才培养和引进机制,积极培养和引进大数据人才,解决制约商品交易市场大数据应用的人才储备和需求问题。