1.聊聊如何避免多个jar通过maven打包成一个jar,上使用多个同名配置文件发生覆盖问题
2.crash流程详解(完结撒花)
3.现在许多高校都在做 PT 网站,传源怎么看这个现象?
4.企业级npm仓库搭建
5.如何在中国大陆下载android源代码?上使用
6.使用Google Pixel5手机调试AOSP(代码下载、编译、传源刷机、上使用调试)详细攻略
聊聊如何避免多个jar通过maven打包成一个jar,传源通用源码令牌软件多个同名配置文件发生覆盖问题
在开发过程中,上使用你是传源否遇到过这样的问题:外部项目需要访问内部nexus私仓的jar,但私仓不对外开放,上使用导致外部项目无法下载私仓的传源jar,进而导致项目无法运行。上使用
面对这种情况,传源常用的上使用解决方法有两种:一是外部项目与内部nexus的网络打通,例如通过***;二是传源将私仓的jar直接下载给外部项目。然而,上使用私仓的jar可能包含依赖其他内部jar的情况,因此需要下载多个jar。为了方便,我们可能会将这些jar合并成一个大jar再给出去。但是,一些jar包会有同名的配置文件,如spring.factories,如果不进行处理,直接打包,就会出现同名配置文件覆盖的情况。
本文将探讨如何解决多个jar合并成一个jar时,多个同名配置文件覆盖的问题。
解决思路是通过maven-shade-plugin插件,利用插件的org.apache.maven.plugins.shade.resource.AppendingTransformer来处理多个jar包中存在重名的配置文件的合并。其核心是在于合并多个同名配置文件内容,而非覆盖。
示例配置如下,打包后的配置文件效果如下图所示。
然而,仅仅追加同名的配置内容可能无法满足所有需求,例如spring.factories文件。为了达到预期的效果,我们需要进行进一步的调整。
在尝试寻找解决方案时,我在maven-shade-plugin的官方示例中未能找到合适的方案。于是,我面临两条路:一是网络钓鱼源码放弃maven-shade-plugin插件,选择其他类似的插件,如maven-assembly-plugin;二是扩展maven-shade-plugin。由于maven-assembly-plugin的扩展配置比maven-shade-plugin复杂,我最终选择了在maven-shade-plugin的基础上进行扩展。
在扩展思路中,我没有直接修改maven-shade-plugin插件,而是在maven-shade-plugin打包后的基础上,进行插件定制。具体实现思路是修改maven-shade-plugin打包后的spring.factories文件内容,将其调整为如下形式:
自定义maven插件spring-factories-merge-plugin的核心思路如下:
1. 如何读取配置文件spring.factories中key重复的内容,而不被覆盖。
如果直接使用java.util.properties的读取,当配置文件中有key重复时,如多个org.springframework.boot.autoconfigure.EnableAutoConfiguration,最后会出现value值被覆盖的情况。
解决方案是利用org.apache.commons.configuration.PropertiesConfiguration进行处理。
在项目的pom中引入GAV,读取配置示例代码如下。
2. 如何将修改后的配置文件重新写入jar。
我的思路是直接利用IO进行操作。
项目中如何配置插件的小细节是:当maven-shade-plugin和spring-factories-merge-plugin的执行生命周期都是相同阶段,例如都是在package时,则maven-shade-plugin的放置顺序需要在spring-factories-merge-plugin之前,因为spring-factories-merge-plugin是对maven-shade-plugin打包后的结果进行二次加工。如果maven-shade-plugin的放置顺序不在spring-factories-merge-plugin之前,则spring-factories-merge-plugin的执行阶段需要比maven-shade-plugin靠后,例如maven-shade-plugin在package阶段执行,则spring-factories-merge-plugin需要在install或deploy阶段执行。
打包后的效果图如下。
总结:在阅读开源框架时,我们常常关注源码,而忽略了maven插件。这次因为有打包jar的需求,我发现无论是springboot还是dubbo都集成了许多宝藏插件,例如maven-shade-plugin插件。如果以后有对maven插件的需求,推荐从springboot或dubbo中寻找,可能会带来意想不到的收获。
crash流程详解(完结撒花)
终于,我用上了珍藏的Nexus 4和Nexus 5x,因为想体验Android 7的吾爱源码群发更新,选择从Nexus 5x开始刷机,过程非常简单易行。
为了快速完成实验,我直接对AOSP源代码进行了修改,插入了一些关键点的插桩,主要关注于crash前后内存操作的部分。
这里要讨论的是Android 5.X中MPEG4编码文件解析中的漏洞。在parseChunk函数中,stsc box的sampletoChunk size计算存在问题。原本右值使用的是int*int,而左值为int,大部分情况下不会导致溢出。然而,版本5.X中的关键结构myDataSource紧跟其后,其内存地址的分配可能会因溢出而受到影响,尽管通常只会引发crash而非严重覆盖。
到了Android 7.X,我发现MPEG4的处理已修复了这个问题,通过调整内存分配顺序来防止覆盖。我巧妙地修改了malloc空间,人为制造了内存溢出,以重现crash。然而,实际操作中,我发现crash报告并未如预期地触发我设定的插桩点,这让我意识到一个关键问题:
ASLR和不同设备的内存布局使得相同的漏洞在不同环境下的表现千差万别。重现Tombstone所述的crash对程序员来说并非易事,因为crash可能由内存污染而非控制流篡改导致,这使得传统的变量追踪分析难以奏效。
因此,我们需要将重点转向内存的分析。静态分析结合crash报告,虽然能大致还原Binder通信后的路径,但可能不包含错误行为。人工调试在ASLR保护下,难以定位到准确的代码行,特别是在内存泄露这类问题上,其随机性使得复现和定位变得困难。
这就是当前业界在处理这类问题时所面临的挑战。
现在许多高校都在做 PT 网站,怎么看这个现象?
搞pt某种意义上是docker源码量为了规避版权问题,pt服务器只需要保存种子信息,pt属于小圈子开放,高端资源比如P.P甚至蓝光原盘,这些要求带宽很高很适合在教育网互传很快的地点传播。另一点来说,随着硬盘等存储设备,显示器,影视压制技术的发展,资源会越来越大。pt的共享率要求导致每个下载者要挂种子,上传资源或是做种混上传。这样就是P2P的优势,比单单的一个ftp(前一般ftp服务器硬盘最多也就几T,带宽负荷也很高),pt有效降低资源投入。
pt程序这点,除了六维是基于dz自主开发,很多是基于开源的tbsource成改版而来,如浙大的nexus,晨光BT,投入低廉,界面还算友好,有资源介绍,pt站也要求介绍规范,这肯定比传统的字符界面的ftp好的多了。
现在也有很多的问题。一个是,我们用的是晨光PT的源码,但是因为我们技术水平实在有限,不会改代码,所以放在那儿之后只是用,没法做跟进的优化。另一个是,我们自身宣传上有些缺陷,导致我们很多人都是只下载不上传,我们的资源维护同学不得不用服务器手动续种。服务器上堆了大量的资源,用他们的话讲就是“把PT做的跟FTP差不多了”。
借助IPV6推广测试,各大高校的网络打通了,如果你的坚决买源码学校刚好在全国ipv6网络的节点附近,那感觉真的太爽了。某些PT站直接屏蔽了ipv4的接入。Abvolt说的很详细了。其实高校早期的分享途径为校园FTP为主,见 渔网 这类高校FTP索引,借助各大高校内部网络的优势,速度非常快。但是对于非本校的访客非常不友好。
企业级npm仓库搭建
企业级私有npm仓库搭建详解 面对内部组件库和工具管理的需求,企业纷纷选择搭建私有npm仓库,以优化安装效率和确保源代码的稳定性。市场上有几种备受青睐的解决方案,其中包括:Nexus: Sonatype出品的专业仓库管理器,提供专业版和开源版(OSS),后者完全免费。Nexus 3.x版本支持丰富的格式,如Docker、NuGet、npm和Bower,功能强大且易于扩展。
CNPM: 阿里巴巴团队研发的本地私有NPM服务,致力于快速同步NPM包。
Verdaccio: 无需繁琐配置的轻量级本地代理,支持云存储扩展,如S3和Google Cloud Storage,操作简便。
下面,我们将以Nexus为例,为您详述搭建步骤:启动与监控: 在sonatype-work/nexus3目录下,通过./nexus start或./nexus run启动服务。启动初期可能会有一些延迟,但可以通过tail -f nexus.log实时查看日志并监控运行状况。关闭服务时,使用./nexus stop。
访问Nexus管理界面: 登录到http://ip:,初始用户名为admin,密码可在sonatype-work/nexus3/admin.password找到。务必尽快更改密码以提升安全性。
配置私有npm仓库
创建Blob存储,如命名为npm-blob。
设置hosted仓库,名称为npm-hosted,Blob store选择npm-blob,部署策略设为允许重装。
创建proxy仓库,名npm-proxy,远程存储选择npm registry,Blob store同上。
创建group仓库,将npm-proxy和npm-hosted加入,以便团队成员访问。
最后,获取私有仓库地址(格式如http://ip:port/repository/npm-group/),并在终端中使用npm install --registry http://ip:port/repository/npm-group/安装所需的私有模块。
通过以上步骤,您的企业级私有npm仓库便已成功搭建,不仅提升了团队的工作效率,也为组件库的管理提供了有力的保障。根据您的实际需求,还可以尝试CNPM或Verdaccio,找到最适合您的解决方案。如何在中国大陆下载android源代码?
为了在中国大陆下载Android源代码,可以使用清华大学TUNA镜像源。首先,请确保已在Mac系统上完成设置Android源代码编译环境,特别是创建大小写敏感的磁盘,避免git工作异常,影响后续编译。
接着,下载repo工具,并对repo配置进行调整。修改文件路径~/.bin/repo中的REPO_URL一行,将其替换为清华大学的下载源。选择特定的Android版本,如Nexus系列,通过关于手机中的版本号(build number)确定对应的版本分支。然后,在预先建立的大小写敏感的文件空间内执行初始化仓库的命令。
为了同步源码树,只需在终端中运行使用repo开始源代码下载同步的命令,指定并发数为4,清华镜像源最大支持此值。关于下载时间,依据经验,大约G的空间足够,下载速度可达3M/s,预计耗时约3小时。若为节省空间考虑,可删除下载好的源代码目录下的.repo文件夹,但此举将失去同步能力。
使用Google Pixel5手机调试AOSP(代码下载、编译、刷机、调试)详细攻略
为了在真实设备上调试Android源代码,购买了Google Pixel 5手机,实现这一目标。
下载AOSP代码,查阅相应教程以获取详细信息。为了适配Pixel 5,选择代码的特定分支、TAG和build ID。这些元素确保了能够下载与设备型号兼容的源代码。点击链接访问AOSP源代码页面,关注支持设备列表、标记和build ID,确保下载的代码能够与目标设备Pixel 5兼容。
执行命令下载Pixel 5代码,使用特定build ID下载Nexus和Pixel设备的驱动二进制文件。下载后,解压shell脚本,执行脚本,接受协议并开始解压过程。解压后,即可开始代码编译。
在编译时,选择合适的lunch选项。通过访问编译配置页面,找到并使用针对Pixel 5设备的编译选项。执行命令启动编译过程。
刷机前,确保USB调试功能已打开,执行fastboot和adb命令。在根目录执行特定命令以刷入编译后的镜像,等待刷机完成并重启手机。
为了在编译的Pixel 5设备上进行调试,使用userdebug版本,执行特定命令将修改后的应用推送到设备上。在Launcher中加入日志信息,验证修改效果,确保调试代码的正确性。
值得注意的是,自编译的AOSP版本不包含Google移动服务(GMS)及其应用,需要自行内置。此外,系统应用在AOSP中可能不如原生系统美观,但此不足不会影响调试代码的主要目的。
Nexus!最受欢迎的仓库管理软件
Nexus,由Sonatype出品,是目前全球最受欢迎的仓库管理软件,与Git在源代码管理领域的地位类似。仓库管理的主要目标是存储源代码编译后的成果,并进行版本管理,确保开发过程中有稳定的依赖来源。Nexus提供两种版本,Nexus2主要用于管理Maven,而Nexus3支持Maven、Docker、npm、yum、apt等多类仓库配置。其功能丰富,包括搜索、查看、上传包,以及仓库分类。
Nexus的搜索功能支持多条件和模糊搜索。查看功能允许根据repository和group找到特定包。上传功能则支持直接界面上传包。仓库分类为代理仓库、宿主仓库和仓库组,代理仓库将中央仓库的内容缓存,节约外部带宽;宿主仓库用于存储第三方或自定义包;仓库组则将多个仓库整合使用,支持代理和自上传。Nexus基于权限访问控制,管理员以角色方式赋予用户权限,实现资源访问控制。
Nexus提供文件存储服务(Blob Stores),支持本地文件系统及云端存储,如Azure Cloud Storage和AWS S3。此外,支持系统管理功能,如API集成、邮件服务器设置及任务调度。通过API,开发者能轻松实现与Nexus的代码交互,支持主流仓库管理,部署Nexus即可支持多种仓库。
SpinalHDL(十一) 最后一英里:企业内网Scala环境搭建(nexus私服)
在企业内网环境中搭建Scala环境,尤其是当开发团队面临网络隔离时,如何顺利部署Scala环境成为了一个挑战。本文将介绍在不联网的情况下部署Scala环境的三种方法,并通过实际操作和团队支持,成功在内网完成SpinalHDL的部署。同时,内网部署maven私服还能支持公司内部开发库的发布与使用,为团队提供便捷的内部资源管理。
方法选择:
在部署Scala环境时,有三种主要策略:单跳部署、两跳部署以及内网部署maven私服。单跳部署通过内网设置nexus私服代理连接互联网Maven仓库,优点是操作相对简单,但存在数据风险。两跳部署则在内网设置nexus代理服务器,再通过隔离黄区代理打断内网和外网的直接通路,更符合传统IC公司的信息隔离要求,但复杂度增加。内网部署maven私服为最彻底的方法,支持内部开发库的发布与使用,确保了数据安全。
部署流程:
实现SpinalHDL在内网部署的步骤包括:更新build.sbt添加依赖,使用sbt命令编译缓存jar包到私服,更新Classifiers缓存源码和文档jar包。隔离黄区到内网红区的同步可以通过自动化或手动copy解压完成。为了确保部署顺利,需要根据公司IT团队的指导搭建nexus私服,并配置代理,设置合适的group,以确保缓存信息的可见性与安全性。
内网操作与配置:
部署完成后,需要对内网进行配置,如在~/.sbt/repositories中指向内网私服,并在IDEA中设置正确的依赖和JDK。使用sbt命令运行编译操作,确保环境配置正确。使用IDEA打开工程,安装Scala插件并配置好依赖,通过右上角的sbt栏刷新按钮检查是否成功导入。
普通开发者配置:
普通开发者需要配置~/.sbt/repositories指向内网私服,并在工程的build.sbt中设置正确的依赖。至少在隔离黄区sbt编译时进行缓存下载。
版本发布:
对于内部使用的版本发布,可以采用发布到本地、公共路径或maven私服的方式。本地发布适用于个人使用,公共路径发布则需要修改build.sbt并指定版本号,而maven私服发布则需更新本地maven私服的地址与密钥。
常见问题与解决方案:
在部署过程中,可能出现SSL安全报错、内网source.jar包找不到等问题。解决SSL安全报错需要在配置中允许不安全协议。解决source.jar问题,可以尝试取消下载或通过两台机器对比确定问题所在。使用nexus私服的IP地址和端口号搜索包的存在性,以辅助问题排查。