surfshark免费

生成式AI背後的推手 「LLM大型语言模型」 – 产业供应 – TechNice科技岛-掌握科技与行销最新动态

记者/周子宁

AI浪潮席卷全球,一时间,讲坛节目、社群平台甚至人们茶余饭後的谈资都充满AI相关的话题。随着大众目光放向人工智慧的区块,更多相关的专业词语出现在大家视野中,而频繁被提起的「LLM」就是其中一员,究竟「LLM」是甚麽?又与AI有甚麽样的关联呢?

LLM大型语言模型受到AI浪潮影响,进入大众视野。示意图:取自RF123

LLM是甚麽?

LLM(Large Language Model,大型语言模型)是一种深度学习模型,可以透过记忆文本数据学习大量的知识。LLM大型语言模型内建超过一千亿个参数的自然语言处理系统(natural language processing,简称NLP),帮助LLM吸收巨量资料数据并学习字句逻辑,包含文章、影音、图片和书籍等都在学习范围,学习完成後可应用在问答、翻译和生成文本上。

而LLM大型语言模型之所以被冠以「大型」,是因为该模型在学习时可以自主更改的参数量极高,而这也代表LLM的知识库存远比一般学习模型丰富、应用范围更广,因此被称为「大型」语言模型。

更多新闻:Bard还是不够真实?捏造使用者不曾寄出的mail

LLM跟AI有甚麽关系?

如上段所言,LLM(Large Language Model,大型语言模型)是一种深度学习模型,而其工作原理就是通过获取的文本数据来分析文字逻辑,从而由大量的数据库中生成新文本。这样的功能描述是不是让人顿感熟悉?没错,最近大放异彩的ChatGPT功能也相近於此,而ChatGPT就是其中一种LLM的应用。

说到这里或许有些人感到混淆:ChatGPT是生成式AI?但ChatGPT又是其中一种LLM?那LLM跟AI是甚麽关系?其实AI并不是特定「某一种机器或程式」,AI是一种泛称。简单来说,AI(Artificial intelligence)是泛指所有人工智慧,而LLM(Large Language Model,大型语言模型)就是其中一种类型的AI。

更生活化一些的说明:AI就像是「面」这种统称,而里面分支出来的义大利面、油面、鸡蛋面,就是LLM一类的功能性程式模型。

LLM 的实际应用

LLM如何运算与应用?普遍而言,LLM都是在未经过标记的大型数据库上经过预先训练,再根据个别需求微调,同时加入少量的、已经标记(赋予上下文含意)的数据集。训练的步骤为:

1.文字数据转换为数位形式

2.随机分配模型参数

3.传送文本数据的数位形式传到模型中

4.使用损失函数来测量模型的输出与句子中实际的下一个单词之间的差异

5.优化模型的参数以最大程度地减少损失

6.最後重复该过程,直到最终成果达到可接受的精确度。

在训练完成後,LLM的应用范围极广,适用但不限於各种产业与相关软体,例如:智能客服、生物语言处理、医疗谘询、智慧机器人和各类代码与文本生成等等。

LLM两面观

LLM大型语言模型可以快速生成文本跟消化大量资料,有着可应对客制化、节省时间与人力、全理性判断等等优点,但LLM也有短版。大型语言模型的建构通常需要长达数月的时间,以及极度高昂的费用。而完成後的持续研发与维护同样需要丰厚的投资,同时如何获得足够丰富与正确的学习数据也是研发LLM的一大难处。

除此之外,尽管LLM学习速度高、吸收范围广,但LLM对於世界的理解只限於使用者给予的资料,因此很容易在数计集编写有漏洞或是错误的状况下,造成LLM被使用者或是吸收的资料误导,从而生成出错误资讯、不当发言甚至是被诱导出违法言论。

总体来说,LLM大型语言模型是一种强大精密的工具,能够理解和生成各种语言,但同时不论是LLM或是其他AI,本身都没有主观意识跟善恶之分,因此在使用上仍需对它们的能力和限制先做了解。

surfshark免费

用ChatGPT制作学习历程档案|陈坤平线上讲座 – 影音回顾 – 生成式AI创新学院 – TechNice科技岛-掌握科技与行销最新动态

精华版

ChatGPT学了这麽多,大家都知道他可以协助撰写文章、广告文案、或者简报提案,其实对於学生来说,还有一个非常大的用处,帮学生写出「适合自己」的学习历程档案。本次ChatGPT讲座就由XCHOOL跨域素养学园创办人陈坤平,教你其中小诀窍。课程中不只告诉你ChatGPT的优势,还会告诉你如何突破制作学习历程时的三大困难,以及ChatGPT还有下指令的最佳三大时刻,课程中乾货满满,不看可惜。详细的课程内容都在科技岛官网中: https://www.technice.com.tw/category/review/

上集

课程大纲

  1. ChatGPT作为辅助工具之优势与连结点
  2. 如何用ChatGPT来制作学习历程反思、自学/小论文与自述,如何检查既有历程?
  3. 面对AIGC的注意事项
下集

讲师简介
陈坤平
XCHOOL跨域素养学园 创办人
108课纲专业讲师
1111职涯顾问

完整版

chatgpt #ChatGPT #AI #聊天机器人 #陈坤平

【制作团队】
主持人 黄楷元
整理撰稿 苏筠家
剪辑後制 潘奕云

surfshark免费 ,

HOLTEK新推出HT82V39A三通道CIS类比讯号处理器整合LED驱动器

Holtek深耕类比讯号处理器产品开发,宣布新推出HT82V39A三通道CIS类比讯号处理器。HT82V39A内建LED驱动器能赋予产品应用更多弹性,其类比前端(AFE)采用3.3V作为主要电源,5V则为LED驱动器电源需求。针对中高速CIS感测器的应用,如中高阶的文件扫瞄器、相片及多功能事务机等极为合适。

HT82V39A采用三个通道的结构,可提供一至三个通道的操作模式供使用者选择,A/D转换器采用16位元的高解析度设计,搭配40MSPS转换速率。整合3通道的LED驱动器,每通道最高可提供66mA的电流,各通道可透过3位元的暂存器进行电流设定与调节,可节省系统空间的使用效率。封装上采用40-pin QFN。

Holtek拥有丰富的CIS感测器、数位及类比电路设计开发经验,在扫瞄器应用市场上已耕耘多年,将持续开发更高速且高整合性产品,提供更佳且更具竞争力的产品方案,以满足客户多样化的产品应用。…

surfshark免费 ,

AI晶片年度活动IC Tech in the AI Era将於10/12台北登场

人工智慧(AI)运算技术不断突破,带动AI晶片需求快速成长。Precedence Research研究报告数据显示,预估全球AI晶片市场规模将从2022年的168.6亿美元,成长到2032年2274.8亿美元,2023至2032年CAGR达29.72%。为因应AI发展趋势,IEEE CASS Taipei、台湾RISC-V联盟(RVTA)、台湾半导体产学研发联盟(TIARA)、台湾物联网产业技术协会(TwIoTA)将於10月12日共同主办IC Tech in the AI Era系列活动,深入探讨相关议题。

主办单位表示,AI运算发展已经到了关键的转折点。大语言模型(LLM)引发大众关注,并在生成文章、图像、影音、程式语言和其他内容方面,发挥强大潜力。LLM显着增加了神经网路中的模型参数大小,并且需要大量计算来进行AI模型训练和推理。

在当前AI时代,IC设计面临巨大挑战。AI技术发展更影响IC产业,因为运算需求不断提高,远远超过半导体摩尔定律的提升速度。想藉着不断缩小半导体制程,来满足性能、功耗、面积和成本的目标,将会越来越困难。大规模的AI运算需求带来了高性能、高频宽和高能源效率的需求,复杂的IC设计也增加了设计成本和对高技能人才的需求。

在另一方面,AI技术也带来新的机会。AI可以为IC产品赋予新功能,同时也有可能成为IC产业提高效率的关键工具。此外,开源处理器架构可以提供强大而灵活的设计元件,来实现复杂的AI运算架构。以上技术都为IC产业带来了革命性的新机遇。

在上午的场次,由国际电子电机工程师学会电路与系统协会台北分会(IEEE CASS Taipei)所主办的IEEE CASIF Taipei 2023,针对AI时代的IC设计挑战,进行深入探讨,邀请台积电、联发科专家发表专题演讲,并邀请产、官、学、研各界专家齐聚一堂座谈研讨,出席业界专家包括台积电、联发科、晶心科技,学界包括台湾大学、阳明交通大学、清华大学,研究单位包括工研院电子与光电系统研究所、国家实验研究院台湾半导体研究中心(TSRI)等,更有国科会科技办公室和经济部技术处贵宾莅临致词,共同讨论在AI时代,IC设计的困难与挑战,以及台湾未来在半导体与IC设计的发展与契机。

在下午的场次,则由台湾RISC-V联盟(RISC-V Taiwan Alliance)所主办的2023 RISC-V Taipei Day,将邀请VRULL技术长暨创办人Dr. Philipp Tomsich(同时也是RISC-V International的Applications & Tools Committee主席)、Tenstorrent首席CPU架构师Mr. Wei-Han Lien、晶心科技总经理暨技术长苏泓萌、台湾发展软体科技行销长暨执行副总魏国章等专家发表专题演讲,以探讨RISC-V开源处理器架构在AI时代,如何为复杂的IC系统与AI运算架构赋能。

此系列活动10月12日将在台北国际会议中心201会议室举行,活动可免费参与,上下午场活动之间并有午餐供应。活动期间TIE Expo台湾创新技术博览会也同步在世贸一馆办理,可就近参观。

此外,除了为专业人士规划的以上两场活动外,IC Tech in the AI Era系列活动亦结合台湾创新技术博览会(TIE),於10/13(五)在台北世贸一馆举办「半导体科研青年论坛(青研论坛)」,适合热爱科技的青年学子与一般大众自由入场与会,将展望半导体科技转动世界的力量,并由多位产学研界的青壮研发人才,分享从事科研工作的亲身历练、乐趣与成就。…

surfshark免费

Meta开源可用来侦测AI歧视问题的FACET资料集

Meta

Meta於本周开源了FACET(FAirness in Computer Vision EvaluaTion)资料集,以供不同的电脑视觉模型来评估它们在分类、侦测、实例分割与视觉定位等任务中,可能出现的偏差或歧视,以协助模型进行改善。

FACET是由3.2万张照片所组成,内含5万个人,每一张照片都由人类专家依照与人类相关的属性手动进行标记,由专门的人类注译员负责标记人口属性,包括性别与年龄等族群特徵,肤色及发型等生理特徵,以及诸如棒球选手或医生等分类,也包含了来自SA-1B资料集中6.9万名戴口罩民众的人口属性标记。

图片来源_Meta

此一资料集可用来协助回答某些问题,像是当某些表现的刻板印象多为男性属性时,AI模型是否能提供更好的辨别;开放辞汇检测模型能否够更好地侦测到那些被认为应该更年轻一些的背包客;标准检测模型是否难以侦测或分割肤色较深的人口;以及倘若上述牵涉到的是一名卷发人口,各种问题是否会被放大。

Meta以FACET来评测该公司所开发的DINOv2模型与SEERv2模型,以及OpenAI的OpenCLIP模型,整体而言,OpenCLIP在性别上的表现优於其它模型,而DINOv2则在年龄与肤色上有较佳的判断力。

Meta AI团队指出,FACET得以更深入地发现模型於类别等级上的潜在偏差,举例来说,以性别偏见最严重的「护士」类别来说,SEERv2与OpenCLIP的偏差比DINOv2更为明显,原因可能是SEERv2主要针对未经策画的社交媒体内容进行预训练,使得资料缺乏多样性,而OpenCLIP则采用经过CLIP模型过滤的网页爬梳资料,而放大了原本即存在的职业与性别的关联性。

FACET的开源将有助於研究人员执行类似的标竿测试,以理解自己的模型中所存在的偏差,亦可用来监控为了解决公平问题而采取的缓解措施所造成的影响。…

surfshark免费 , , , , , , , , , , , ,

行政院通过公部门生成式AI参考指引,禁用於高机密文件,国科会:先订指引再立法

(中央社)行政院会今(31)日通过公部门使用生成式AI的参考指引,国科会表示,生成式AI发展快速,台湾做法将采先指引、後立法,指引可让公部门思考AI风险、累积实务经验,有助於未来AI基本法的立法。

行政院行政院会今天通过「行政院及所属机关(构)使用生成式AI参考指引(草案)」,开放公务部门使用生成式AI,但不得用於高机密文件,也不得向生成式AI询问可能涉及机密业务或个人资料的问题,且须由业务承办人做最终判断。

行政院发言人林子伦今天主持政院会後记者会时转述,陈建仁在院会表示,人工智慧(AI)正在改变全世界,生成式AI可取代部分脑力,相关应用的确非常重要,但带来对国人、社会、个人及国家安全的潜在风险与冲击,更需由科技、产业发展、人才及治理等各方面积极布局并正面因应挑战,以回应国内、外社会挑战及维持国家安全。

陈建仁说,指引是现阶段各行政机关使用生成式AI的基本原则,有助於促进各机关对生成式AI有一致认知,以及正确使用,值得肯定,但面对瞬息万变的AI发展,AI法制规范仍需与时俱进,国科会应持续观察全球AI发展趋势与因应作为,随时修正指引。

国科会过去也在研议AI基本法的立法可能,国科会副主委林敏聪出席政院会後记者会时解释,AI科技技术变化非常快,对产业的影响也还在发展,因此国科会未来将针对国内外技术、国际法规综合发展、产业影响等等持续评估,会在比较适当资讯之下再提出AI基本法。

林敏聪说,指引可让公部门思考AI风险、累积实务经验,有助於未来AI基本法的立法,目前做法就是「先指引、後立法」。

公部门开放使用生成式AI,「高机密文件」除外

行政院会今天通过「行政院及所属机关(构)使用生成式AI参考指引(草案)」,开放公务部门使用生成式AI,但不得用於高机密文件,且须由业务承办人做最终判断,藉以增进效率也保有机密性、专业性。

国家科学及技术委员会今天在行政院会报告「行政院及所属机关(构)使用生成式AI参考指引(草案)」,指引共10点,揭示各机关(构)使用生成式AI时,应秉持负责任及可信赖的态度,以及安全性、隐私性与资料治理、问责等原则,并掌握自主权与控制权。

指引获行政院会通过後,国科会今天便会依程序签核,通知各机关参考使用指引。

根据指引,生成式AI产出的资讯,须由业务承办人就其风险进行客观且专业之最终判断,不得取代业务承办人的自主思维、创造力及人际互动;且各机关不可完全信任生成式AI产出的资讯,亦不得以未经确认的产出内容,直接作成行政行为或作为公务决策的唯一依据。

指引也要求,各机关使用生成式AI作为执行业务或提供服务辅助工具时,应适当揭露,且使用生成式AI应遵守资通安全、个人资料保护、着作权与相关资讯使用规定,并注意其侵害智慧财产权与人格权的可能性。

指引明定,制作机密文书应由业务承办人亲自撰写,禁止使用生成式AI。而所谓的机密文书,是指行政院「文书处理手册」所定的国家机密文书及一般公务机密文书。

另外,指引也要求业务承办人不得向生成式AI提供涉及公务应保密、个人及未经机关(构)同意公开的资讯,也不得向生成式AI询问可能涉及机密业务或个人资料的问题;不过封闭式地端部署的生成式AI模型,在确认系统环境安全性後,得依机密等级分级使用。

新闻来源

  • 政院定调:生成式AI发展快速 先订指引再立法(中央社)
  • 政院通过公部门生成式AI参考指引 禁用於高机密文件(中央社)

surfshark免费 , , , , , ,

AI 做简报又更简单了!只输入网址,Bard 就整理好线上论文?

超夸张,只要贴上网址,Google Bard AI 把网页内容变成简报,这这这我还能不变心吗?

之前有一支影片分享了 ChatGPT 结合 Power Point 的简报制作技巧。

在 Bard 大更新之後,运用网页浏览的功能,不管是线上期刊还是论文,转换成简报更加的方便,根据我自己的测试,只要五分钟,从一篇网路上的论文就可以快速的变成一份漂亮的简报,这真是懒人救星啊!

今天简单的分享了 Bard 支援连接网路之後的论文摘要功能,并且回应之前影片网友遇到的内容大纲转简报的制作问题,希望这支影片能解决你的问题

看完影片之後你觉得 Bard 的哪个功能最让你惊艳或惊吓呢?

  1. 拳打 ChatGPT 的连网功能
  2. 脚踢 ChatGPT 的内容准确性
  3. 豪夺网站的资讯内容
  4. 巧取生成错误资讯鱼目混珠

如果你有更多的想法与问题,欢迎加入泛科学 AI 的 Discord 论坛,我把连结放在影片下方资讯栏。

如果这支影片对你有帮助的话,请帮我在影片下方点个喜欢,或是透过超级感谢展现你的心意,让我制作更多实用有趣的 AI 教学影片,最後别忘了订阅泛科学院的频道,我们下支影片再见罗。…

surfshark免费

Line日本开源自有大型语言模型

Line日本

Line日本总部本周宣布开源自有开发的日语大型语言模型(LLM)。

Line将以Apache License 2.0授权开源其japanese-large-lm模型,除了研究用途外,也允许商业用途,包含36亿及17亿个参数2个版本,两项专案都可以在HuggingFace Hub存取。

Line自2020年11月起,即致力於针对该公司大型语言模型HyperCLOVA,启动多项构筑和应用相关研发计画。Line於2021年5月开发者大会上,首次公开2,040亿个参数训练而成的韩文版LLM HyperCLOVA,11月则公布日语特化版,拥有850亿参数,并宣称将以其发展一系列自然语言处理服务。

而本次公开的japanese-large-lm模型是和HyperCLOVA由不同部门并行开发,前者即是Massive LM团队的开发成果。团队指出,本模型是用了Line自己的日语大型Web文本为基础来训练,并利用成员自行开发的HojiChar开源函式库,来过滤大量原始码及非日语文字等杂讯,最後用了650GB资料集来训练。开发时间上,以17亿参数版本而言,在A100 硬体上花了4000 GPU时间训练而成。

研究团队也提供了本次公开的两个模型和Rinna-3.6B及OpenCALM-7B模型的准确度和困惑度(perplexity score,PPL)比较数据。…

surfshark免费 ,

伊云谷连两年进入全球垂直市场云端托管服务商100强

科技调查机构ChannelE2E於近日公布2023年全球垂直市场云端托管服务商100强名单(Top 100 Vertical Market MSPs for 2023),伊云谷数位科技连续两年入榜,蝉连亚洲第1,全球排名则为第7名。

ChannelE2E连续八年针对垂直市场云端托管服务商进行调查,与去年同期相比,今年报告指出,2022年全球垂直市场云端托管服务商100强营收成长27.5%,主要受益於医疗及金融产业过去一年中扩大投资云端服务,其中以医疗产业连续两年占比最高,也是今年度最大的动能,从2021年18%成长至2022年的31%。金融业则挤下制造业,成为云端托管市场的第二大服务对象,从2021年的13%成长至2022年23%。

报告结果亦显示,在市场趋势及需求下,垂直市场云端托管服务商皆努力提升自身资安能力。伊云谷於2022年6月成为全球云端资安领导组织「云端安全联盟(Cloud Security Alliance)」正式会员。

伊云谷为该联盟在台首家会员,可第一时间获取国际资安示警,积极参与国际资安社群,串联全球资安网路推动云端安全。更於2023年5月份通过Amazon Web Services MSSP(AWS Managed Security Service Provider)资安能力认证,为全台首家获得该指标性资安认证的资讯服务商。

伊云谷以云端原生起家,专注解决客户上云评估、搬迁、顾问谘询、规画迁移、托管、技术支援、最佳化等基础建设服务,并针对企业不同应用面与服务业态,提供包含ERP企业核心系统云端化、CRM云端服务系统,AI人工智慧与资料数据分析等解决方案,以及OT营运科技与资安、永续减碳等一站式多元解决方案,伊云谷具备多年协助企业数位转型的经验,透过顾问式服务了解客户需求,让企业无後顾之忧专注於本业创新。…