1.?请减????Դ??????
2.新手提问:我们安装windows系统的时候,是少源数量什意思不是把windows的源代码复制到本机硬盘下的C盘中了?
3.Linux源代码有多庞大一探究竟linux源码有多大
4.PyTorch显存管理介绍与源码解析(一)
?????Դ??????
针对软著补正通知指出的源代码与申请表中程序量不符的问题,解决方案有以下两点:一是码数修改申请表的软件代码行数以与实际提交的源代码文档行数保持一致,二是量请修改源代码文档内容,确保其与申请表中填写的减少程序行数相符。自年6月版权中心改革实施电子化和强化材料审核以来,源码职介小程序源码软著申请流程变得更为严格,请减审核周期分为普通申请(-工作日下证)和加急申请(-工作日下证),少源数量什意思因此,码数申请软著需要提前规划。量请以下是减少几种建议考虑委托代办申请的情况:
1. 若没有真实软件,自行申请难以撰写核心材料,源码建议委托专业机构进行申请;
2. 对于需要申请大量软著以支持企业申报项目的请减场合,委托代办申请能确保软著数量满足需求;
3. 对于不熟悉软著申报流程或材料撰写的少源数量什意思人士,选择代办服务能节省时间,码数提高下证率;
4. 若急于获得软著,自行申请无法走加急流程,而代办服务能提供加急服务,同时避免因驳回导致的下证时间延长;
5. 面对多次驳回的情况,无论是自行申请还是委托代办,建议重新寻找专业机构,以提高申请成功率。
软著申请所需材料
申请软著需准备以下材料:代码文档(行源代码,每页行,共页,页眉需包含软著名称、版本号及页码);用户手册(软件使用说明,页眉需包含软著名称、版本号及代码);申请表(描述软件运行环境、主要功能和特点等)。可参考提供的模板进行准备。
自行申请与代理申请的区别
自行申请与代理申请的主要区别在于效率、专业性和下证率。代理服务能提供专业撰写、优化材料等服务,提高申请成功率和下证效率。
软著申请流程
流程包括:实名认证、撰写材料、提交材料、上传签章页、等待受理与审查。普通申请预计1-3个月,加急申请预计1个月。
软著的作用
软著在多个方面发挥重要作用,包括但不限于注资融资、项目补贴、人才落户政策、评职称、学生加分、无形资产、维权、上架必备、招投标、税收优惠等。正确使用软著能为企业和个人带来显著利益。
新手提问:我们安装windows系统的时候,是不是把windows的源代码复制到本机硬盘下的C盘中了?
t;安装和版本问题
1) eMule对Windows有什么要求?
eMule能在Windows 版本以上的Windows操作系统下运行。
1个好的抖音钱包源码P2P软件需要好的拨号网络的支持,所以Windows 和Windows ME的比较差网络运行情况可能会影响eMule的发挥;相对来说Windows 和Windows XP更适合使用eMule。
2) 弹出错误信息说oleacc.dll文件找不到?
使用Windows 的用户在启动eMule的时候可能会出现此错误信息。这个缺损的dll文件可以从Microsoft的 Windows System Update 处获得。
3) Installer和Binary的区别?
Installer文件用于第一次安装eMule,它包含了所有必须文件和帮助文档等。执行exe文件通过弹出的指示即可以安装eMule。
Binary是一个压缩档案文件,你需要把他解压缩(覆盖)到你想要安装的目录,通常用来做升级安装用。
4) 当我升级eMule版本时候怎样才能保留我的设置和下载到一半的文件信息?
你只需要安装(或解压)新版本的eMule到你原来版本的安装目录,eMule会自动更新eMule.exe文件,用户设置文件和其他一些用户信息文件都不会被覆盖,原来的设置等都将保留。
注意请关闭eMule之后才可以安全执行升级新版本,否则可能会导致不可知错误。
5) 如果从eDonkey/Overnet升级到eMule并保留原来的下载信息?
这取决于你原来使用的eDonkey/Overnet的版本。
0.版本以前的eDonkey使用和eMule部分兼用的系统,但是0.以后的eDonkey版本把下载的temp文件分成了很多独立的小文件,使eMule无法再使用。
老版本的eDonkey升级到eMule,你只需要把eMule的临时文件目录指向原来eDonkey的临时文件目录即可。
新版本的eDonkey升级到eMule,你可以先使用 OldPart 这个程序把未完成的eDonkey临时文件转化,再用 MetFile Regenerator 程序把它们还原成eMule可用的临时文件。不过,我强烈建议你在升级到eMule先完成原来的下载文件。
<二>服务器、连接和ID问题
1) 从哪里可以取得服务器列表?
– 官方eMule服务器列表更新网址
2) 哪个服务器是最快最好的?
没有绝对的最快或者最好的服务器。服务器是用来连接其他eMule用户、搜索文件和搜索源用的。当用户使用全局服务器搜索时,eMule会向列表里的每个服务器询问搜索结果并返回用户。
同样,下载文件的时候,eMule会在服务器内搜索速度最快的源。
3) 我需要多长时间更新一次服务器列表?
如果你正在使用或者经常使用eMule,那么就没有必要刻意去更新服务器列表。eMule的默认设置会在使用过程中不断更新服务器。
4) 为什么我的eMule连接不上服务器?
在连接到服务器以前会有短暂的等待时间,也有可能服务器当机或没有响应。如果eMule完全不连接,请确认你的服务器列表是最近更新的;也或者可能是Firewall和Router设置不当造成eMule的连接不畅通。
还有一点,你必须检查eMule中的 选项 -> 服务器 -> 仅自动连接到静态服务器 ,如果这个选项被选中的话,而同时尼列表中没有可用的静态服务器,eMule同样不会连接。
5) 为什么我得到的是low ID?
eMule近当以下端口打开的时候才会完全工作正常(取得high ID)
• TCP
• UDP
• TCP
当你使用代理服务器、或局域网上网的时候,你无法打开公网IP地址机器的以上端口,所以你会获得low ID。
6) Low ID何High ID有什么区别?
High ID就是拥有独立公网IP并且能提供端口给eMule工作的用户;此类用户可以和任何eMule兼容客户端连接与下载。
Low ID一般都是没有公网IP的内网用户,两个Low ID用户之间是无法直接连接的,所以Low ID的用户下载源会相对少一点(无法从其它Low ID用户那里下载)。
7) 为什么eMule总是从服务器掉线?
可能有以下原因导致eMule掉线:
• 下载列表中文件太多(低于v.a会有此问题)
• 过多的共享文件(低于v.a会有此问题)
• 服务器端的问题
• 普通的网络连接问题
通常情况下eMule会自动重新连接断开的服务器。这一情况并不影响下载。uniapp 工单源码
<三>速度问题
1) 有哪些影响下载速度的因素?
以下这些实际问题可能会影响下载速度:
• eMule的设置;
• High ID (防火墙和路由的设置);
• eMule下载的时间长短;
• 一个下载文件所获得的源的多少;
• 临时文件的有效性;
• 下载文件的流行程度。
eMule设置中的不当(不恰当的限制、过多的连接数);Low ID(上一章中已介绍)以及过短的运行时间都会减缓下载的速度。还未普及的文件(例如新发布的资源)或者源很少的文件、或者临时文件(part)有损坏都会影响下载速度。
2) 怎么设置最好呢?
没有最完美的设置来实现速度最大化,因为下载速度的主要因素还是取决于每个人的Internet连接速度和所使用的操作系统。建议你使用eMule的设置向导来选择正确的设置,其中最重要的是你选对了你的Internet连接速度和操作系统。
举个例子,比较适用ADSL K带宽的设置如下:
Windows XP :-
下载能力: (= / 8)
上传能力: (= / 8)
下载限速:
上传限速: (= x 0,)
硬性限制:
最大连接数:
最大新建连接数/ 5 sec:
同时下载6-个文件比较合适。
Windows / ME :-
下载能力: (= / 8)
上传能力: (= / 8)
下载限速:
上传限速: (= x 0,)
硬性限制:
最大连接数:
最大新建连接数/ 5 sec:
同时下载不要超过个文件比较合适。
你无须太谨慎地限速,太苛刻的限速会阻塞eMule的连接,直接导致下载效果下降。上传限速基本上差不多应该在最大上传能力的%。
3) 怎样才能提高我的下载速度?
除了正确的设置以外,能决定速度的还有你所下载的文件本身。为了得到令人满意的速度速度,你尽可能做到以下方面:
• eMule尽量开的时间维持的长些,越长越好;
• 尽量避免只下载1个文件;
• 有选择余地的情况下,尽可能选择源多的文件下载(文件名后面数字表示源的数量);
• 新发布的文件(全新的文件)不可能速度快;
• 尽可能多的上传以获得比较高的积分;
4) 我可能会获得怎样的速度?
如果一切设置正常,并且在开始一段时间以后,你获得了 kB/s – kB/s的速度,那么可能在短时间内依然会很慢,但有时你却可能获得超过稳定速度2-3倍的速度。
5) 等待状态会维持多长时间?
等待状态中你可以从源那里看到QR:[x],这个数字x就是你的Queue Ranking,也就是你在等待队伍中排在第几位,当然这个值越小越好。QR的存在显示了积分系统的意义,相对于源来说越高的积分就是越短地等待。如果你的QR值很高,并不表示你就无法从那个源那里下载到东西,eMule里存在很多公平的修正以减短等待时间。
<四>积分问题
1) 积分是什么?为什么我要增加积分?
积分是奖励那些上传的用户的,上传量越大积分越高。积分不是所有服务器之间通用的,它们仅仅通用于那些承认这些积分的服务器和客户(比如我在chinese edonkey server NO.1上的上传量很大,相对于那些连在No.1上的用户来说我的积分就很高) 。
积分是影响QR的主要因素,你积分越高,排队时间就会缩减的越短。
2) 从什么地方我可以看出我的积分多少?
为了防止使用作弊的方法篡改积分,所以你的积分不是储存在你的硬盘中,而是存在其他客户的硬盘中。要在本机上查询自己的积分是不可能的。
3) 我丢失/删除了我的clients.met文件,是不是我的积分就没了?
根据上个问题,丢失了这个文件,你自己的积分是不会消失的,而存在你机器上的相对你而言的他人的积分就没了。eMule建立并保存了备份文件以防止这种事情发生,名称是clients.met.BAK,你只需要把它重命名回clients.met即可。
4) 积分是否安全可靠?
eMule使用了一种加密方法key handshake以确保某个积分正确地属于某个人。只有在这种方法得到eMule的魔塔源码c语言验证之后,这一积分才被授权给特定的某个人,否则eMule将不会承认对方的积分。
5) 什么情况下我的积分会得不到承认?
根据上一个问题所述,积分是经过加密并授权的。授权的验证密钥储存在preferences.dat和cryptkey.dat两个文件中。如果其中一个文件损坏或者丢失,你将不能得到对方的积分验证,eMule将不会承认原本应该属于你的积分。
如果你丢失了cryptkey.dat,eMule会强制删除preferences.dat。
<五>下载和共享问题
1) 为什么我下载的文件从列表中消失了?
可能是因为死机、或者升级到新版本造成的。
• 在 选项 -> 目录 里检查一下临时文件目录是不是正确。
• 把.part.met文件用它们的自动备份文件.part.met.BAK代替。
• 看看能否在帮助文件的Troubleshooting这一章节找到答案。
2) 传输状态的进度条表示的是什么意思?
不同的颜色表示了不同进度的活动性。
黑色
表示这部分文件你已经获得了。
红色
表示这部分文件没有源,处于未知状态。
不同程度的蓝色,代表了这部分文件处于有源并活动的状态,蓝色越深表明源越多、活动性越强。
**
表示这部分文件正在被下载。
顶端的绿色条表示下载的进度。
完整的一条绿色状态表示整个文件已经下载完成。
一条深红色表示这个文件处于暂停或者停止状态。
如果你双击展开一个下载中的文件,其中的颜色有不一样的说法:
黑色说明你已经获得的部分。
蓝色部分是你仍需下载的部分。
灰色说明了这个源也缺损这部分文件。
绿色表示了当前正在下载的部分。
**表示未决的部分(已请求)。
在上传栏目中,同样有类似的颜色状态条:
黑色表示这名用户已经获得的部分。
灰色表示用户缺损的部分。
绿色表示你正在上传给这名用户的部分。
**表示未决的部分(已请求)。
共享文件的颜色状态条:
红色表示在已知的源中找不到的部分(未传播开)。
不同程度的蓝色告诉你这个文件的传播程度,颜色越深传播的越广。
3) 那些在来源一栏中的数字 xx / yy +aa (zz) 表是什么?
这些数字表示在下载中找到的源。
• xx - 可用的源的数目。
• yy - 总共找到的源的数目。
• + aa - 已请求另一个文件的源的数目(仅当你在高级控制中选择使用eMule才会显示这个数字)。
• zz - 现在正在和你传输的源的数目。
4) 为什么有些源显示“已请求另一个文件”?
eMule在对方源的队伍中只会占有一个位置。如果对方源内有你需要下载的2个以上文件,eMule只会为其中一个文件排队。当这个文件下载完成,eMule会自动切换到另一个文件并排队,以此类推。所以对方源就会对你现在无法进行排队的文件显示“已请求另一个文件”。这一功能称作A4AF(Ask for Another File)功能。
5) 过多连接数表示什么意思?
这表示找到的源的数目超过的你设定的最大连接数。这通常因为列表里有太多下载中的文件,或者用户的城门立木指标源码硬性限制太过苛刻所造成。
6) 我可以更改下载文件的文件名吗?
你可以任意更改下载的文件名,因为eMule不是凭文件名来判断一个文件,而是看每个文件不同的hash值来确定唯一的文件。右键点击一个下载名,选择 显示文件详情 --> 文件名,就可以更改文件名。建议先暂停或停止下载的状态下再改名。
7) 下载文件前面的红色和绿色的惊叹号表示什么?
惊叹号表示了对这一下载的等级的评定。
•
= 积极的等级(文件被网友评定为优等的、高质量的)
•
= 负面的等级(例如文件有病毒、文件是损毁的、或者文件是冒牌的)
8) 我怎么对某个文件进行评定或添加等级?
在共享文件中,对某个文件点右键,然后选择 更改这个文件的注释... 就可以修改这个文件的评论和评分。
希望大家对文件有公平公正的评价!
9) 我怎样才能知道一个文件是冒牌的呢?
你可以从找到的文件名判断。右键点击任意一个下载文件 -> 显示文件详情 -> 文件名。在这里你可以看到所有这个文件的其他文件名,如果其他文件名和这个文件相矛盾或者差很多,就可以判断可能是冒牌的(往往可以判断出是否是真的DVDRip或者枪版)。
) 我的下载为什么完成不了?
如果一个文件长时间没有下载完成,可能有以下2个方面的原因:
• 没有完整的源:-
如果状态条始终是红色的,从来未变成过蓝色;或者你找到的源都是和你缺损同一个部分的。那就说明这个文件的源缺损了,我们称这个文件死了。可能造成的原因是这个文件还没有全部传播出去(比如仅仅开头%曾经被人下载过),发布者就不共享这个文件了。
• 文件损毁:-
在eMule的服务器按钮下的Log窗口中,显示A corrupted part has been received。 如果你经常收到的是同一个文件的某个特定部分的损毁报告,那可能着整个文件都已经损毁了(这个情况非常罕见)。
) 下载完成了不过显示Errorious?
这个错误信息经常出现在以下情况:临时文件的存放目录和下载完成的目录不在同一个硬盘,或不在同一个硬盘分区上。eMule不能完成下载的可能性是因为下载完成的目录的那块硬盘分区没有足够的空间了。
) 我下载完成了,但是下载目录中却没有文件?
如果eMule显示一个下载已经完成,但文件却没有转移到下载完成目录,你可以手动调整。
首先,点击显示文件详情,比较文件的大小以确保它真的已经下载完成。同时记下.part文件的数字,并copy文件名到剪贴板。打开Windows资源管理器,在eMule临时文件目录中找到相应的.part文件,把它移动到你想要放置的目录,把它重命名成你剪贴板里复制过得你想要得文件名(注意扩展名已经不需要.part.met了)即可。
) 临时文件目录太占容量,我能否删除它?
这个文件夹内包含了所有你还未下载完成的文件,删除它就等于删除了你正在下载的文件!eMule在下载完成一个文件之前已经在临时文件目录建立了和源文件大小一样的临时文件,这点类似FlashGet,以确保不会下载到一半产生空间不够的问题。
) 我怎样做才能不共享文件呢?
eMule会自动共享以下文件:
• 正在下载中的文件;
• 存放在下载完成目录中的文件,和你手动指定的共享目录中的文件。
从以上2个目录中把文件移走就可以不共享这些文件(或者把共享目录的勾去掉),但是不共享文件的动作不会影响正在上传的文件传输。
<六>使用eMule的问题
) Tips
eMule中的绝大多数功能是很容易通过菜单理解并掌握的。右键单击很多东西,例如下载的文件等都可以弹出不同的操作菜单。ALT + x更可以打开一个快捷菜单,非常有用。
2) 怎样才能添加好友?
好友可以在消息窗口管理。右键点击好友列表,选择 添加好友,你必须有以下信息才能添加:
• IP地址 – 这是必须的,询问你要添加的人,向他获取IP;
• 端口 – 通常情况下是,同样这是必须的;
• 名字 – 可以输入任何名字,不是必须的。
另一种添加好友的方法是在传输窗口右键点击任何你获得的源,选择 添加为好友。这样eMule会自动获取所需要的信息。
3) 怎样分配好友的上传通道?
右键点击好友,选择“建立好友通道”,当你的好友排到能下载的位置时这个通道会马上激活。
4) 怎么样才能清空我的搜索历史纪录?
点击搜索栏,按CTRL(或ALT)然后按DEL。
5) eMule中的那些图标表示什么意思?
- 正在从此用户处下载或获取hash值。
- 在此用户处排队,或正在查询此用户。
- 正在连接到此用户。
- 此用户没有我需要的文件部分、或者已请求另一个文件,或者因为Low ID的关系无法连接。
- 用户的状态未知。
- 新进的消息。
- 普通的eDonkey和eMule用户。
- 兼容eMule协议的用户。
- 拥有高级分的用户。
- 有高级分的和兼容eMule协议的用户。
- 使用mlDonkey的用户。
- mlDonkey用户并拥有高积分。
- 使用eDonkey-Overnet-Hybrid用户。
-用户并拥有高积分。
- 使用Shareaza的用户。
- Shareaza的用户并拥有高积分。
- High ID的用户。
- Low ID的用户。
- 未连接到服务器。
- eMule系统栏图标(High ID)。
- eMule系统栏图标(Low ID)。
- eMule系统栏图标(未连接到服务器)。
- 积极的等级(文件被网友评定为优等的、高质量的)。
- 负面的等级(例如文件有病毒、文件是损毁的、或者文件是冒牌的)。
6) 我能踢除或阻止特定的用户么?
不行。这个功能将永远不会在eMule中出现,因为它和eMule的原本的共享理念相矛盾。
7) 为什么我搜索到的结果只有个?
搜索会大量增加服务器的负担,为了限制并减轻服务器的负担,eMule设定为返回用户的搜索结果最多只有个。如果你想要更多的无限制的搜索结果,请使用web based search Jigle(在eMule同时也可使用)。
8) 我需要把我的共享文件的优先权都设置成“高”或者“发布”吗?
不需要。优先权是照顾某些特定的文件的,这种优先的等级是相对的。如果你把所有文件都设置成“高”,和把所有文件都设置成“低”没有任何区别。
优先权在上传过程中会特别优待那些“高”和“发布”的文件,也就是说用户从你这里下载“发布”文件的可能性大于优先权“低”的那些文件,排队时间也是前者大大短于后者。
<七>其他问题
1) eMule运行的时候为什么许多应用程序会变慢?
这取决于eMule的设定,eMule可能会打开很多连接并占用很多的带宽。这会减慢其他的Internet应用程序,例如IE。尤其是不恰当的设置或太高的连接数会引起严重的整体效果的下降。
2) Mod 是什么?
eMule的源代码是开放的,其中有些人基于源代码开发了修正的版本,称之为Mod,例如eMule Plus。这些版本不被官方的eMule小队所支持。
3) Mods是否更快活更好呢?
通常情况下不是。官方的版本是经过长期的编译和测试所得,而modders往往不能在短时间内改变eMule的内核工作原理。所以Mod要取得速度上的突破往往是不太可能的。
Mods可能会带来一些新特性,同时一些新bugs,可能有些特性你很喜欢。不过有些mod可能带有负面特性,甚至损害整个网络的正常运作。这些制作粗劣的mod根本不能使用,官方的eMule正在努力减少这些mod存在的可能性,并在安全性方面争取杜绝这类mod的产生。
4) 我收到消息说我的eMule版本不能再继续使用。
官方版本eMule版本不会产生任何此类的消息,只可能是Mod版本的eMule才会有。如果你是用官方的版本,你可以安全的过滤掉这类消息。
5) 我从什么地方能得到更多的帮助?
如果阅读完FAQ你仍然有问题,你可以试试看以下几个方法:
• 到官方论坛发问(请在论坛内使用搜索功能已确定你要问的问题是否曾经出现过)。
• 到VeryCD的eMule问题求助区发问,发问前先确定你的问题是否被问过,谢谢!
• IRC - 在eMule中的IRC主窗口点击 连接 ,进入英语eMule帮助频道,键入 /join #emule。也有其他语言的聊天室, 例如 #emule-french, #emule-spanish 或 #emule-dutch。
6) eMule是匿名的吗?
P2P网络传输建立在两个客户的Internet连接之间,为了实现这个传输,双方的IP地址都是公开的。这个IP可使用户被识别和跟踪。
现阶段,让P2P软件匿名使用的条件是不成熟的(使用匿名代理服务器等方法具有众多的缺点)。
7) 为什么我关闭了eMule,而我的防火墙却持续报警说有连接端口?
相对于其他用户,你得eMule是被当作一个源存在的。你所连接过的服务器也会因为你共享过的文件而把你作为一个源传播给其他用户。当你关闭eMule以后,这一信息不会马上消除,所以别的eMule用户仍会尝试连接到你这个源。过一段时间,这样的连接就会消失(因为你的这个源已经失效)。
8) 什么是IP过滤器?
IP过滤器是用来阻挡某些特定的对网络有损害的IP地址的。最常用的就是 Lussnig's IP Filter。从他的网站下载一个名为ip.prefix的文件,重命名为ipfilter.dat然后复制到eMule的 ../config目录。然后到eMule里的 选项 -> 安全 -> IP过滤,然后按“刷新”按钮。
9) 使用eMule下载下来的AVI文件为什么不能播放?
这其实不是eMule的问题。建议你使用Windows Media Player来播放此类文件。具体需要安装的插件,请看播放DVDRip必备的软件。
) 怎样才能获得与AVI相应的字幕文件?
承接上一个问题,eMule中找到的源往往不是国内的机器上的,所以下载的DVDRip(AVI文件)通常没有配套的字幕,你可以去射手网寻找相应的字幕文件。下载下来之后只需要解压缩到和AVI文件一起,然后把字幕文件重命名和AVI文件同样的文件名即可(注意请保留srt sub等字幕文件的后缀名)。
Linux源代码有多庞大一探究竟linux源码有多大
Linux是当今最流行的操作系统之一,它使用着许多计算机系统,包括网络设备、服务器、个人电脑等等。有一件事众所周知,Linux的源代码非常庞大。因此,有人认为Linux不适合编译和开发,因为它的庞大体系结构使得人们无法理解和控制。
实际上,Linux的源代码比其他操作系统要庞大的多,尤其是比Windows等操作系统更加庞大。根据不同的发行版本,Linux的源代码的大小可以达到数百万行甚至数千万行。其中,Linux内核的源代码大小为万行,涉及到大量、非常复杂的数据结构和算法。
另外,Linux还涉及到大量的库和应用程序,这些库和应用程序的源代码数量也非常庞大,比如GCC工具链涉及到大约万行的源代码,火狐浏览器涉及到约万行源代码,LibreOffice涉及到约万行源代码,GNOME桌面环境拥有数百万行源代码。而X Window系统的源代码更是达到了1.7亿行!
可以看出,Linux的源代码非常庞大,即便不考虑整个系统,仅考虑Linux内核本身,其源代码也会占据大量空间。然而,Linux的优势在于它拥有非常强大的可移植性和灵活性,可以使用同一套代码编译使用在各种平台上,极大地提高了开发的效率和稳定性。因此,Linux的源代码虽然庞大,但它的高灵活性、可移植性和稳定性就能让它充分发挥价值,令管理员和开发者们无需过多的操心即可完成工作。
PyTorch显存管理介绍与源码解析(一)
GPU作为一种通用的数据处理设备,在设计时比较开放,API在满足客户需求的同时,也使得维护成本降低。然而,对于显存的精细管理需要由上层应用来完成。在PyTorch框架中,有一套专门的显存管理逻辑,能够更好地满足框架的需求,相比原生的CUDA API,该机制在管理细化和使用效率上更胜一筹。本文将主要讲解PyTorch1.版显存管理的逻辑,通过分析设计原理,帮助读者理解PyTorch的显存管理机制,以便在使用过程中遇到相关问题时能够更加得心应手。
显存管理的主要任务是解决当用户创建一个数据(例如张量)时,需要一个确定大小的内存块,管理机制如何合理分配显存块给这个请求,并处理多对多的关系:请求、设备、用户进程。主流AI框架的显存管理方式基本遵循这一逻辑,主要步骤包括:
1. 管理器申请整块显存,然后将其切分成多个小的显存块;
2. 上层应用向管理器请求显存,管理器搜索并返回最佳的小显存块给应用;
3. 管理器将多个闲置的小显存块进行合并,必要时释放这些显存块。
在这一过程中,涉及的关键动作有申请、切分、搜索匹配、合并、释放等。接下来,我们将分别介绍显存申请/释放方式、设计要素、实现思路。
### 显存申请/释放方式
#### 1.1.1 mallloc方式:`cudaMalloc/Free`
`cudaMalloc/Free`是最常用的显存申请方式,其操作与CPU的`malloc/free`类似。用户只需指定指针和数据大小,即可调用API获取指定大小的显存块,并返回给`void*devPtr`指针。
#### 关键问题:时间开销
`cudaMalloc/Free`的API调用时间并不小,尤其是在框架使用的数据非常零碎且数量多时,频繁调用会直接影响程序整体性能。因此,尽量减少`cudaMalloc/Free`的调用频率是优化的关键。
#### 1.1.2 统一内存:`cudaMallocManaged`
`cudaMallocManaged`是一种与CPU内存统一管理的使用方式,允许使用系统内存充当“显存”,从而增加可用显存量,但会导致运行速度降低。
#### 1.1.3 虚拟内存管理:`cuMemCreate`
`cuMemCreate`是一种cu driver层的API,提供了一个独立的地址空间,支持显存块大小的动态调整,满足了用户增加显存大小的需求。但同样面临时间开销大和调用不够灵活的问题。
### 设计要素
显存的申请有两种常见方式:动态申请和一次性申请。PyTorch框架采用动态申请方式,实时调整显存使用,避免了过量的显存占用。这种方式的优点是方便多人同时使用设备,但也带来了如何设计申请频率、处理API时间消耗和管理机制带来的碎片问题等挑战。
### 实现思路
PyTorch1.版本显存管理主要采用`cudaMalloc`方式,通过考虑的问题和实现方式来优化显存使用。具体实现逻辑包括:
#### 2.1 管理逻辑1: size触发创建
管理机制根据申请的`size`决定创建多大的`segment`以及是否进行切分。
#### 2.2 管理逻辑2:显存池
申请显存后,多余显存会被放入显存池中。框架运行时会创建多个显存池,根据显存块的`size`将其映射到不同的池中。
#### 2.3 管理逻辑3:块融合回收
用户不需要使用的显存块不直接释放,而是回收到`blockPool`中。当整个`segment`未被使用时,可以触发`cudaFree`操作释放显存。同时,实施一种块融合机制,当释放一个`Block`时,寻找相邻的空闲`Block`进行合并,降低显存碎片问题。
#### 2.4 整体逻辑
通过上述介绍,可以整理出一个整体的运行逻辑,包括查找、创建、切分、保存、返回、回收和释放等步骤。在当前机制下,存在的问题是显存可视化,PyTorch支持将操作数据存储下来并进行分析,以便更好地理解`segment`和`block`的关系。
### 显存可视化
在PyTorch2.x中,可以通过Snapshot将显存消耗进行可视化,这有助于了解`segment`和`block`之间的关系。例如,系统创建了一个MB的`segment`,该`segment`可以满足1~MB的`block`需求。通过可视化数据,可以追溯一个`segment`的消耗全过程。
### 结论
通过以上内容的介绍和分析,我们可以了解到PyTorch显存管理机制的设计原理、实现思路以及存在的问题。这一机制旨在优化显存使用效率,满足框架需求,提供灵活且高效的显存管理方案。随着技术的不断发展,显存管理机制也将不断优化,以适应更多复杂场景的需要。