Internet 协议套件是美国国防高级研究计划局 ( DARPA ) 在 1960 年代后期进行的研究和开发的产物。在 1969 年开创了ARPANET之后，DARPA 开始研究其他一些数据传输技术。1972 年，Robert E. Kahn加入 DARPA信息处理技术办公室，在那里他从事卫星分组网络和地面无线电分组网络的工作，并认识到能够在两者之间进行通信的价值。1973 年春天，帮助开发现有 ARPANET网络控制协议(NCP) 协议的Vinton Cerf加入了 Kahn，致力于开放架构互连模型，目标是为 ARPANET 设计下一代协议。他们借鉴了Cerf 主持的 ARPANET 研究社区和国际网络工作组的经验。

到 1973 年夏天，Kahn 和 Cerf 制定了一个基本的重新制定，其中通过使用通用的网际网络协议隐藏了本地网络协议之间的差异，而不是像现有的 ARPANET 协议那样由网络负责可靠性，此功能已委托给主机。Cerf 认为CYCLADES网络的设计者Hubert Zimmermann和Louis Pouzin对该设计产生了重要影响。新协议于 1974 年作为传输控制程序实施。

最初，传输控制程序（互联网协议当时没有作为单独的协议存在）仅向其用户提供可靠的字节流服务，而不是datagram。随着协议经验的增长，合作者建议将功能划分为不同的协议层，允许用户直接访问数据报服务。倡导者包括丹尼科恩，他需要它来进行分组语音工作；南加州大学信息科学研究所的Jonathan Postel编辑了征求意见稿(RFC)，记录并促进互联网发展的技术和战略文档系列；和施乐 PARC的Robert Metcalfe研究小组。 Postel 表示，“我们正在通过违反分层原则来搞砸我们的 Internet 协议设计。” 不同机制的封装旨在创建一个环境，在该环境中，上层只能访问下层所需的内容。单片设计将不灵活并导致可扩展性问题。在 1978 年编写的 TCP 版本 3 中，传输控制程序被分成两个不同的协议，Internet 协议作为无连接层和传输控制协议作为可靠的面向连接的服务。

网络的设计包括认识到它应该只提供在终端节点之间有效传输和路由流量的功能，并且所有其他智能都应该位于网络边缘，终端节点中。这种设计被称为端到端原则。使用这种设计，可以将其他网络连接到使用相同原理的 ARPANET，而无需考虑其他本地特性，从而解决了卡恩最初的互联问题。一个流行的说法是，Cerf 和 Kahn 工作的最终产品 TCP/IP 可以运行在“两个锡罐和一根绳子”上。多年后，作为一个笑话，IP over Avian Carriers正式的协议规范已创建并成功测试。

DARPA 与BBN Technologies、斯坦福大学和伦敦大学学院签订合同，在多个硬件平台上开发该协议的操作版本。[14]在协议的开发过程中，分组路由层的版本号从版本 1 发展到版本 4，后者于 1983 年安装在 ARPANET 中。它被称为Internet 协议版本 4（IPv4）作为协议它与当前的继任者Internet 协议版本 6 (IPv6) 一起仍在 Internet 中使用。