从发布InterSystems IRIS®数据平台2022.3开始，InterSystems修改了许可证强制执行机制，以包括REST和SOAP请求。由于这种变化，在升级后，使用REST或SOAP的非处理器核数的许可证环境下，用户可能会遇到更高的许可证消耗。要确定此警报是否适用于您的InterSystems许可证，请按照下面链接的FAQ中的说明进行操作。

下表总结了强制执行变更情况：

客户要求在Caché和IRIS之间实现许可证强制执行的一致性。

最近有某国内三甲医院为满足评级和飞行检查要求，希望提升HIS和IRIS的SQL查询效率，客户和实施工程师整理了一个慢查询的SQL列表， 有一些查询比较慢， 查询时间在甚至大于60分钟。

在我们和厂商共同努力下，对整个库的SQL查询做了优化。 下表是记录了我们在进行了大部分优化工作后的结果，您可以看到大多查询从几十分钟减少到了几十秒甚至1秒以内。其中有几个慢到几分钟的查询，最后经过细调， 也把查询耗时减少到了一分钟以内。 优化的效果还是很明显的。

这里我分享一下操作的要点，以便给其他有同样问题的客户一个思路。

其实如果您看过我前面的帖子，应该已经有了基本的概念。我就把工作流程总结一下，其实就这么几个步骤：

步骤一：

检查硬件配置。 配置中和SQL性能相关的有这么几个： 1. 数据缓存大小，应该至少为物理内存的一半以上。 2. BBSIZE, 也就是单个进程最大的内存占用，对应不同的Caché/IRIS版本和不同的应用，这个配置有区别，但当然是越大越好，询问您的实施工程师配置是否正确。 3. 是否使用了大页内存，这个能从messages.log里看到。

步骤二

执行Tunetable。 在上面说的这个客户的系统上从来没人执行过Tunetable, 因此SQL引擎其实是没法正确工作的。执行后基本可以解决80%的慢SQL问题。时间短风险小见效快， 找个半夜业务小的时候直接在生产环境执行。

InterSystems 很高兴地宣布现已推出：

• InterSystems IRIS Data Platform 2024.1.0.267.2
• InterSystems IRIS for Health 2024.1.0.267.2
• HealthShare Health Connect 2024.1.0.267.2

该版本新增了对 Ubuntu 24.04 操作系统的支持。Ubuntu 24.04 包括 Linux 内核 6.8、安全性改进以及安装程序和用户界面改进。 InterSystems IRIS IntegratedML 在 Ubuntu 24.04 上尚不可用。

此外，该版本还解决了所有平台的两个缺陷：

• 修复了某些使用 "NOT %INLIST "的 SQL 查询返回错误结果的问题。我们以前曾就此错误发出过警告。
• 修正了某些特定情况下堆栈跟踪不完整的问题。

如何获取软件

与往常一样，Extended Maintenance (EM) 版本附带适用于所有支持平台的经典安装包，以及 Docker 容器格式的容器镜像。有关完整列表，请参阅 "受支持的平台 "页面。

经典安装包

安装包可从 WRC 的 "Extended Maintenance Releases"页面获取。此外，还可在Evaluation Services上找到安装包。

SQL查询优化器一般情况下能给出最好的查询计划，但不是所有情况都这样，所以InterSystems SQL还提供了一个方式， 也就是在查询语句里加入optimize-option keyword（优化关键字）, 用来人工的修改查询计划。

比如下面的查询：

SELECT AVG(SaleAmt) FROM %PARALLEL User.AllSales GROUP BY Region

其中的%PARALLEL, 就是最常用的优化关键字， 它强制SQL优化器使用多进程并行处理这个SQL。

您可以这样理解： 如果查询优化器足够聪明，那么绝大多数情况下，根本就不需要优化关键字来人工干预。因此，您也一定不奇怪在不同的IRIS/Caché版本中， 关键字的表现可能不一样。越新的版本，应该是越少用到。比如上面的%PARALLEL， 在Caché的大多数版本中， 在查询中加上它一般都能提高查询速度，而在IRIS中，尤其是2023版本以后， 同样的SQL查询语句，很大的可能查询优化器已经自动使用多进程并行查询了，不再需要用户人工干预了。

因此，先总结有关优化关键字的要点：

1. 优化关键字主要是FROM语句中使用。 UPDATE, INSERT语句也有可以使用的关键字，比如%NOJOURAL等等， 这里我不介绍了，请各位自己查询文档。

新版文档门户支持：

同一页面中集中展示以往版本的文档信息.

暗黑模式

左侧菜单展开与收缩

快来体验吧！

%SYS.Journal.Record 类有一个查询(query), List, 可以列出Journal文件中记录的数据修改历史。例如，要查询谁对global节点^QP(1,2)做过修改，可以使用如下代码。它查询Journal文件（输入参数pFilePath）中的global节点（输入参数pSearchGlobal）的操作：

ClassMethod SearchGlobal(pSearchGlobal = "^QP(1,2)", pFilePath = "C:\InterSystems\IRISHealth\mgr\journal\20220525.003")
{
	Set tRS = ##class(%ResultSet).%New("%SYS.Journal.Record:List")
	Set tSC = tRS.Execute(pFilePath)

	While (tRS.Next()) 
	{
		Set address = tRS.Data("Address")
		Set globalNode = tRS.Data("GlobalNode")
		Set newValue = tRS.Data("NewValue")
		Set type = tRS.Data("TypeName")
		Set processid = tRS.

InterSystems IRIS、IRIS for Health和HealthShare HealthConnect的维护版本2022.1.5 & 2023.1.4现已发布

InterSystems IRIS, InterSystems IRIS for Health 和 HealthShare Health Connect 的两个扩展维护版本现已发布。

✅ 2022.1.5

2022.1.5 版提供此前发布的任一 2022.1.x 版中的Bug修复。

您可以在以下页面找到详细的变更列表和升级清单:

• InterSystems IRIS
• InterSystems IRIS for Health
• HealthShare Health Connect

✅ 2023.1.4

2023.1.4 版提供此前发布的任一2023.1.x 版中的Bug修复。

您可以在以下页面找到详细的变更列表和升级清单：

• InterSystems IRIS
• InterSystems IRIS for Health
• HealthShare Health Connect 

如何获得该软件

该软件以经典安装包和容器映像两种形式提供。有关可用安装程序和容器映像的完整列表，请参阅 Supported Platforms webpage.

当我们在设计一个需要重复使用的BP时候，往往需要开发一个可配置<call>的对象的组件，我们将call的target 设置为

@process.TargetConfigName

即可实现。

下面是完整代码：

Property TargetConfigName As Ens.DataType.ConfigName;Parameter
SETTINGS = "TargetConfigName:Basic";
/// BPL Definition
XData BPL [ XMLNamespace = "http://www.intersystems.com/bpl" ]
{
<process language='objectscript' request='Ens.Request' response='Ens.Response' height='2000' width='2000' >
<sequence xend='200' yend='450' >
<call name='Call configurable target' target='@process.TargetConfigName' async='1' xpos='200' ypos='250' >
<request type='Ens.

Hi 开发者们，

我们非常高兴地邀请大家参加新的 InterSystems 在线编程竞赛，此次编程大赛关注生成式AI（GenAI）, 向量搜索（Vector Search ）与机器学习（Machine Learning）！

🏆 InterSystems 编程大赛：Vector Search, GenAI 与 ML 🏆

时间：2024年4月22日 - 5月19日 （美国东部时间）

奖金池： $14,000

SQL性能监控是DBA最重要的日常工作。经常被问起："Caché/IRIS怎么发现慢SQL"? 答案很简单： 到管理门户的SQL页面，点开如下的“SQL语句“子页， 您能看到这个命名空间的所有执行过的SQL语句，知道每个SQL语句执行了多少次，平均执行时间是多少， 被那个客户端编译的，第一次执行是那一天等等。

请看下面的截图

图中的各个栏目基本都不需要解释，有个别的内容在这里总结一些：

• 表/视图/存储过程名称：列出这个查询使用的所有的表/视图/存储过程的名字。如果你想看某个表有关的查询，可以使用上面的过滤器。

• 位置(Location) : 对于动态查询， 列出所使用的缓存的查询的类名，对于嵌入SQL(Embedded SQL)查询，列出使用的routine名字。

• 每个字段的标题栏可以用于排序，比如上图是按执行次数倒序显示的，所以前几位都是执行了很多的INSERT。 如果是日常维护查找慢SQL, 您可以按平均时间倒序显示。

• 计划状态： 通常是"Unfrozn"或者“Unfrozen/Parallel"。除非您需要升级或者有“Frozen Qeury Plan“的需要，您可以不关心这个栏目。

• 用鼠标单击上图的最左列或者最右列“SQL声明文本”， 会显示这个SQL语句的详细执行数据。 注意这个页面上的两个按钮： “导出” 和**”查询测试“**， 您可以试试它们。

Hey Community,

Play the new video on InterSystems Developers Bilibili官方频道:

⏯ 与 InterSystems 一起释放机器学习的力量

索引分析器工具用来分析索引的使用情况，对DBA和开发者非常有用。 他们需要知道那些查询进行了全表扫描，那些查询缺失了索引， 而那些索引从来又从来没有被用过。多余的索引降低系统性能，浪费了磁盘空间。

索引使用情况

到“管理门户”的" 系统 > SQL 性能工具 > SQL 索引分析器", 点击**“索引使用情况”**， 您将看到这样的图

执行SQL语句查询会带来更多的灵活性。上面的查询可以写成下面这个SQL,

SELECT TableName, indexname, UsageCount
FROM %SYS_PTools.UtilSQLAnalysisDB order by usagecount desc

2016年以后的Caché版本就已经有了'索引使用情况'的查询。使用管理门户没有区别， 但SQL语句不同，使用的是比较老的类和表名，各位请参考文档。

注意上图中另外几个按钮，它们的介绍在文档的这个链接, 简单的做个翻译：

全表扫描的查询:

可识别当前命名空间中进行全表扫描的所有查询。应尽可能避免全表扫描。全表扫描并非总能避免，但如果某个表有大量全表扫描，则应检查为该表定义的索引。通常情况下，表扫描列表和临时索引列表会重叠；修复一个会移除另一个。结果集列出了从最大块计数到最小块计数的表。显示计划链接可显示语句文本和查询计划。

SQL Performance Analysis Toolkit，或者叫SQL性能分析工具，并不是给维护人员使用的。

在RIS文档里是这么说的： 这个工具包里的工具收集SQL执行的详细信息，用来找出一个查询计划的特殊问题。 使用这些信息，开发人员改善这个查询的效率。 它可以非常大的增加服务器的开销。..., 它不应该被持续执行。

要做分析，首先您需要打开一个采集“SQL runtime Statistics"的开关来收集详细信息，这个开关默认的状态是OFF。 文档里说： The SQL Performance Analysis Toolkit offers support specialists the ability to profile specific SQL statements or groups of statements.

这里的"support specialists"指的是厂家的技术支持人员。

因此，总结如下：

• **如果您是个生产环境的维护人员，除非有厂商的支持要求您执行，否则最好不要在生产系统使用这个工具。除非您有兴趣，想知道这个Toolkit是干什么的, 以便在有厂商人员需要您使用这个工具采集数据的时候，知道工作的大概, 否则不用往下看了。 **
• 如果您是开发人员，可以在测试系统上用它来分析某个查询性能为什么慢，比如查询计划里到底慢在那

为什么要读Query Plan, 在线文档中有句话是这么说的：

While the SQL compiler tries to make the most efficient use of data as specified by the query, sometimes the author of the query knows more about some aspect of the stored data than is evident to the compiler. In this case, the author can make use of the query plan to modify the original query to provide more information or more guidance to the query compiler.

翻译一下是这样：系统给你的查询计划并不总是最好的，如果您能对查询计划，可以人工做更精细的优化。

我们先看看读Query Plan的几个基本知识：

MAP

An SQL table is stored as a set of maps. 您有看到3种map: Master map, index map, bitmap.

# 回表读主数据，
- Read master map DWBC.CT_Dept.

人工智能不仅限于通过带有说明的文本生成图像，或通过简单的指示创建叙事。
您还可以制作图片的变体，或为已有图片添加特殊背景。
此外，您还可以获得音频转录，无论其语言和说话者的语速如何。
让我们来分析一下文件管理是如何工作的。

2024年3月26日，InterSystems数据平台全球主管Scott Gnau发文，宣布InterSystems IRIS数据平台新增了向量搜索（vector search）功能。

本文作者为Scott Gnau，InterSystems数据平台全球主管。

百讲知识点索引

简介

• B站已更新截止到2023.12.31之前的所有百讲课程，总计261讲。
• 什么是百讲？百讲是一个主要介绍IRIS、Cache编程知识的免费课程。
• 课程的特点是，将每一个知识点，都会用示例演示出来、了解原理，而不是仅仅告诉有这个功能。
• 每周一期，每期会请到有多年开发经验的老师来给大家讲解课程。
• 百讲观看地址：https://www.bilibili.

这个帖子内容有点深。如果您读的有困难，请直接跳过这篇，对绝大多数IRIS/Caché使用者，它一点都不重要。

数据库表的Collation(排序规则)本来是一个非常简单的概念。说到它是因为曾经发现过由Collation引起的性能问题。

我试图用一句话来解释数据库的排序规则：

• 绝大多数数据库因为业务查询需要，保存的字符型数据是不分大小写的。当你执行一个 order by, group by, distinct，like等等条件查询时，因为这个不分大小写的collation，你得到的结果也不分大小写。例如，对名字做group by， James, james一定是在一组。
• 如果非要区分大小写，会在查询的时候使用一个函数
• 因为要操作非英语的字符集，以及可以被当作字符看待的数字类型，适应不同的排序规则，一个数据库可能有很多种Collation类型。

很简单，在表一级定义Collation的SQL语句是：

CREATE TABLE Sample.MyNames (
    LastName CHAR(30),
    FirstName CHAR(30) COLLATE SQLstring)

IRIS/Caché的Collation

事情在IRIS/Caché里变的有点复杂。

1. 对于一个字段，可以分别在字段上和索引上定义Collation。

这是在 IRIS 中完全运行向量搜索演示的尝试。
没有外部工具，您需要的只是终端/控制台和管理门户。
特别感谢Alvin Ryanputra作为他的软件包iris-vector-search的基础
灵感和测试数据的来源。
我的软件包基于 IRIS 2024.1 版本，需要注意您的处理器功能。

我尝试用纯 ObjectScript 编写演示。
仅描述向量的计算是在嵌入式Python中完成的
计算 2247 个记录的 384 维向量需要时间。
在我的 Docker 容器中，它正在运行 01:53:14 来完全生成它们。

然后被警告了！
所以我将这一步调整为可重入，以允许暂停向量计算。
每 50 条记录，您就会收到一次停止的提议。
该演示如下所示：

用户>做^A.DemoV

 测试向量搜索
=============================
1 - 初始化表
2 - 生成数据
3 - VECTOR_余弦
4 - VECTOR_DOT_产品
5 - 制作苏格兰威士忌
6 - 加载 Scotch.

Bitmap索引是指对某个，或者某几个字段建立的bit map(位图映射)。如果是对整个表的记录，也就是表的%ID做位图映射，得到的特殊的bitmap索引在IRIS/Caché里被称为Bitmap Extent。

建立Bitmap Extent索引的目的就是加快COUNT(*)的执行。提高了多少呢？ 下面两个显示的是最简单的全表查询花费的时间：

• 不使用Bitmap Extent : 1.3810s
• 使用Bitmap Extent： 0.0038

相差有几百倍。

有关Bitmap Extent你需要了解：

• IRIS中不需要人工创建。当在表中创建了任何一个Bitmap索引， 系统会为这个表自动添加一个Bitmap Extent, 名字是“$类名”， 比如上图中的$ppl1。
• Caché中需要你自己手工添加bitmap Extent， 可以使用SQL或者在类里定义
  • 在类里定义：

Index DDLBEIndex [ Extent, SqlName = "%%DDLBEIndex", Type = bitmap ];

• SQL定义

CREATE BITMAPEXTENT INDEX Patient ON TABLE Sample.Patient

• 做为Bitmap的一个特例， 它也有下列限制
  • 需要IDKEY为正整数
  • 大量的数据删除插入需要定期维护

**复合索引(combined index)**也被称为组合索引或者联合索引，顾名思义，就是一个索引建立在多个字段上。当用这些字段为条件查询时，相比对每个字段单独做索引，复合索引能给出很好的性能，还能减少索引的数量。

为什么能减少索引的数量？ 通常来说，也就是在其他数据库，联合索引符合”最左匹配“的原则。在BING上搜索“复合索引，得到的第一个搜索结果的这篇文章就说的就很简单明了：

下面这个SQL语句在 列X，列Y，列Z 上建立了一个复合索引。

CREATE INDEX 索引名 ON 表名(列名X, 列名Y, 列名Z);

其实这相当于建立了三个索引，分别是：

1. 单列索引（列X）
2. 复合索引（列X, 列Y）
3. 复合索引（列X，列Y，列Z）

而Caché/IRIS是不承认最左匹配原则的，Caché/IRIS的原则非常简单粗暴: 既然定义了索引在这些字段上，查询中必须同时有所有这些字段。 也就是说，这个复合索引

CREATE INDEX 索引名 ON 表名(列名X, 列名Y, 列名Z);

单按列名X，或者“列名X and 列名Y”做SQL查询都用不到这个索引。

正确的使用Bitmap Index (位图索引)来代替普通索引，可以成百上千倍的提高SQL查询性能。

先来看看Bitmap索引和普通索引的区别。我来在Patient表的Sex字段上创建两个索引

• idxSex: 普通索引
• bidxSex: bitmap索引

然后创建10个病人数据，查看索引的内容：

# 普通索引
^User.PatientI("idxSex"," F",1)	=	""
^User.PatientI("idxSex"," F",6)	=	""
^User.PatientI("idxSex"," F",8)	=	""
^User.PatientI("idxSex"," M",2)	=	""
^User.PatientI("idxSex"," M",3)	=	""
^User.PatientI("idxSex"," M",4)	=	""
^User.PatientI("idxSex"," M",5)	=	""
^User.PatientI("idxSex"," M",7)	=	""
^User.PatientI("idxSex"," M",9)	=	""
^User.PatientI("idxSex"," M",10)	=	""

# bitmap索引
^User.

InterSystems IRIS ^®,InterSystems IRIS ^® for Health ^TM和HealthShare ^® Health Connect 2024.1版现已全面上市 (GA)。

发布亮点

在此版本中，您可以期待许多令人兴奋的更新，包括：

1. 在ObjectScript中使用向量Vector: 一种强大优化数据操控的能力.
2. 向量搜索Vector Search (试验性): 行业领先的高效数据检索.
3. 多卷数据库: 增强可扩展性和存储管理.
4. 快速在线备份FastOnline Backup (试验性): 优化备份流程.
5. 多种端口支持Multiple Super Server Ports: 提供网络配置的灵活性.
6. FHIR 2.0.0 支持 Smart
7. FHIR R4 对象模型生成
8. 改进了 FHIR 查询的性能
9. 删除专用 Web 服务器 (PWS)
10. 。

请通过开发者社区分享您的反馈，以便我们共同构建更好的产品。

文档

有关所有突出显示功能的详细信息可通过以下链接获得：

• InterSystems IRIS 2024.1 文档、 发行说明以及已弃用和停产的技术和功能。

• InterSystems IRIS for Health 2024.1 文档、 发行说明和升级清单。
• HealthShare Health Connect 2024.

Caché/IRIS的特点是运行Global的修改，而这个修改和SQL是无关的，因此非常容易出现数据库表数据完整性的问题，也就是表中的数据是不是符合定义的表约束。 

这样的情况非常常见。有些是人为的对Global的错误修改， 有些是应用系统的事务性管理写的不对，造成事务回滚的时候破坏了索引的完整性。无论什么原因，只要使用Global操作，破坏SQL的完整性非常难以避免。结果就是SQL查询给出错误结果。

最简单的解决方法就是执行“索引检查(Validate Indices)"

我们来做个实验

- 先修改一个global： 如下图， 将Patient表的一个记录的SEX字段，从'M'改到‘F'. 

运行索引检查, 结果会提示您问题在什么地方。 

SAMPLES>do ##class(Patient).%ValidateIndices()
​
​
Checking index integrity for class 'User.Patient'
Begin time:  03/19/2024 15:25:43
​
Verifying data from data map 'IDKEY' is indexed correctly.

上个帖子写了TuneTable的执行, 提到了SQL优化器使用的那些统计数据， 这里逐一的介绍一下这些统计项。了解它们看懂和分析SQL执行计划的基础。 如果您不需要做单个查询的优化工作，可以调过这部分内容。 

表的统计项

• Extent Size: 表的大小，也就是记录数。在执行多表关联(JOIN)的查询时，SQL优化器会根据Extent Size值，从数据量最小的表来开始执行查询。

您还需要了解：表创建的时候Extent Size会获得一个初始值，而之后的插入修改数据并不自动修改这个值。而只有执行TuneTable才会修改这个。 这也就是为什么没有执行过TuneTable的数据库SQL性能好不了的原因。下图中的Patient表，可以看出有1,000,000记录

字段的统计项

请看下面的图

• 选择性(Selectivity)

选择性取值可以是1或者一个百分数。取值为1说明这是个unique的字段，比如上图的ID, PatientNumber。 %表示的值，取值越高说明唯一性越低。比如上图中的Name的选择性是1.2987%，说明不是唯一值，有重复的姓名，但比例不高。 相反，Sex的选择性是50%, 说明只有两个取值。 

• 离散值选择性Outlier Selectivity),

始用于Caché2014.

IRIS/Caché查询慢，主要原因有以下几个：

• 应用是一个事务型的数据库， 数据模型的设计不适合某些复杂的分析查询

        这是慢的原因，不是慢的离谱的原因。数据模型是产品设计的范畴， 这里不讨论， 本文只讨论优化。

• 历史原因，有些表的索引不够优化

        虽然还是设计问题，但可以在实施中或者维护中给出优化方案。

• 产品运行中的问题造成的查询效率下降

IRIS/Caché数据平台的一个特点是允许跳过SQL约束，对底层数据的直接修改。坏的代码或者应用可能破坏表数据和表索引的约束，造成SQL性能的下降。维护人员应该知道怎么避免，和处理这样的问题。 

• 维护工作缺乏造成

 比如Tune Table(调整表), 这是必须做的工作，但可惜很有些项目没有执行过。

还有些其他暂时没想到的原因。我会在以下链接的帖子里和各位分享我的参与的一些知识和经验。这些经验是从一些SQL优化的工作中学到的，包括Caché 2010, 2016, IRIS, HealthConnect/Ensemble的项目。比如在最近的一个IRIS项目中， 我和另一个合作伙伴的工程师将IRIS 2021上的HIS数据库的100个SQL查询的平均查询时间从几十秒降低到几秒， 最慢的查询从50分钟降低到10几秒钟。

TuneTable(调整表)收集数据库中表的统计信息，用来为SQL引擎制定最优的执行计划。在其他数据库产品里，这个动作被称为“gather stats job"或者类似的名字，相比较TuneTable不是那么直白，但作用是一样的。
 

TuneTable是否要人工执行

一定要。

在IRIS 2023版本， 第一次加入了TuneTable的自动执行功能，在此之前的所有IRIS/Caché版本， 如果没有人工执行TuneTable, SQL引擎无法保证给出最好的查询计划。 即使是IRIS2023有了自动执行功能，也还需要人工执行TuneTable的操作，后面解释。

怎么知道有没有执行过TuneTable 

到“管理门户>SQL"页面， 打开一个表， 看“目录详情”，如下图， 如果其中的“选择性”，"离群值选择性“， ”离群值“，“平均字段大小”这些字段有数据， 说明这个表至少做过了一次TuneTable. 

除了“字段”按钮页，在“表信息”还有统计项 “ExtentSize"， “索引”页，包含每个索引的统计信息项。

关于这些统计项的想象解释， 我会在下个帖子里介绍。 

什么时候执行TuneTable

简单的说：对于查询所用的表，SQL引擎要有以上有统计信息，而且足够准确。

解释以下“足够准确”。

近来生成式大语言模型掀起了革命性的AI浪潮。生成式大语言模型是什么原理？我们怎么在业务中利用它？

一. 大语言模型的工作原理

生成式大语言模型是生成式人工智能底层的机器学习模型，是一种用于自然语言处理的深度学习模型。

人工智能、机器学习与大语言模型的关系如下图：

1.1 为什么我们称之为大语言模型？

大语言模型的“大”体现在多个方面：

• 首先，模型尺寸巨大，尤其是它的参数数量。例如GPT3有1750亿的参数；
• 其次，大语言模型是在巨大的算力基础上，基于海量语料进行训练的。例如Meta的Llama 2 的训练数据达到了两万亿个词(token);
• 再次，大语言模型是为解决通用问题，而非特定问题构建的。

1.2 大语言模型是怎么训练的？

大语言模型是事先训练好的模型。

训练时，大语言模型基于各种语料 - 人类知识库（例如Wikipedia）、公共数据集、网络爬虫数据，让模型进行“填空”练习，并经过人工编辑和“校对” 训练出来的，需要成千上万的GPU建立集群进行训练。根据Meta的信息，其Llama 2 的训练数据达到了两万亿个token，上下文长度为4096，对话上也是使用100万人类标记的数据微调。

运行时，训练产生的大语言模型可以在小的多的硬件上运行。

1.3 大语言模型的机器学习算法

冰冻三尺,非一日之寒;滴水穿石,非一日之功。生成式大语言模型能够落地经历了相当漫长的技术积累与进步。

IRIS 2024.1已经发布，它引入了诸多新特性，其中之一是JSON_TABLE。

数据表达和交换中，JSON已经是日益主流的存在。在之前的IRIS版本中，可以轻易将JSON数据以对象解析并保存到IRIS，也可以将IRIS数据使用SQL、对象等多种方式输出为JSON。对于得到的JSON序列化的数据，如果我们想通过SQL去解析，甚至进行检索和查询，就可以利用JSON_TABLE这个新特性。

对于一些大规模的JSON序列化数据，例如从FHIR服务器查询获得的FHIR资源Bundle，里面包含了大量数据。例如下面的FHIR查询结果，后面的示例以这个的复杂的JSON作为用例：

{
    "resourceType": "Bundle",
    "id": "cf34e50f-e350-11ee-821c-005056b6b4c5",
    "type": "searchset",
    "timestamp": "2024-03-16T04:51:10Z",
    "total": 2,
    "link": [
        {
            "relation": "self",
            "url": "http://172.19.85.

1. IRIS RAG Demo

这是 IRIS 与 RAG（检索增强生成）示例的一个简单演示。 后端是使用 IRIS 和 IoP用 Python 编写的，LLM 模型是 orca-mini 并由 ollama 服务器提供。 前端是用 Streamlit 编写的聊天机器人。

• 1. IRIS RAG 演示](#1-iris-rag-demo)
  • 1.1. 什么是 RAG](#11-what-is-rag)
  • 1.2. 如何工作？
  • 1.3. 安装演示](#13-installation-the-demo)
  • 1.4. 使用方法
  • 1.5. 演示如何运行](#15-演示如何运行)
    • [1.5.1. 前端]（#151-前端）
    • 1.5.2. 后台
      • [1.5.2.1. 业务服务]（#1521-业务服务）
      • [1.5.2.2. 业务流程]（#1522-业务流程）
      • [1.5.2.3. LLM 操作]（#1523-the-llm-operation）
      • 1.5.2.4. 矢量操作](#1524-the-vector-operation)
  • 1.6. 一般性说明](#16-一般性说明)

1.1. 什么是 RAG？

RAG 是 Retrieval Augmented Generation（检索增强生成）的缩写，它带来了使用带有知识库的 LLM 模型（GPT-3.