新制度经济学是20世纪突起的一支异军，其源头是国际经济学界公认的科斯教授1937年的短文———“企业的性质”。迄今为止，新制度经济学已发展为以交易费用理论、产权理论、企业理论和制度变迁理论这四个基本理论为基点，包含交易费用经济学、产权经济学、委托-代理理论、公共选择理论、新经济史学等诸支流的宏伟理论大厦。新制度经济学的产生和发展，将经济学从零交易费用的新古典世界走向正交易费用的现实世界，从而获得了对现实世界较强的解释力，进而影响了许多经济学家的思维和信念。
在决定一个国家经济增长和社会发展方面，制度具有决定性的作用。诺斯（Douglass North）强调说，技术的革新固然为经济增长注入了活力，但人们如果没有制度创新和制度变迁的冲动，并通过一系列制度（包括产权制度、法律制度等）构建把技术创新的成果巩固下来，那么人类社会长期经济增长和社会发展便无法设想。
二战后，学者们借鉴自然科学和社会科学的最新成果，多角度、多层次地剖析“制度变迁”这一经济现象，极大增强了制度变迁理论的现实解释力和预见性。近年来演化博弈论的引入，就是典型例证。
制度的标准定义是个体自我施加的约束，对制度的分析应从个体选择行为的分析开始；而博弈论的核心则是对冲突和合作的理解。博弈论与新制度经济学的结合点就在于对“合作”问题的研究。
现代经济学的分析已经证明，通过合作方式解决争端与矛盾，总是能实现效率的最大化。制度作为一个由非正式规则和正式规则组成的系统，就是要通过约束人们的行为，减少专业化和分工发展带来的交易费用的增加，最终解决人类所面临的合作问题。而运用博弈论来研究经济中的合作问题，实质上就是研究契约双方在自身最大化目标和各种条件的约束下，如何达成某种一致来形成“合作解”的过程。在这里，个人的选择结果或者说是效用函数不仅仅依赖于自己的选择，而且依赖于他人的选择。从这个意义上说，博弈论研究的是存在相互外部经济条件下的个人选择，实质上就是研究人与人之间的合作、竞争等关系问题。
由此，制度可以看作是人们在社会分工与合作过程中经过多次博弈而达成的一系列契约、一致性同意或合作解的总和，为人们在广泛的社会分工中实行合作提供了一个基本的框架。博弈论则为新制度经济学家研究合作问题，提供了一个非常有效的分析工具。
最早从博弈论的研究视角探讨制度现象的，是美国经济学家安德鲁·肖特（Andrew Schotter）。他在其1981的著作———《社会制度的经济理论》一书中分析了制度的内涵、起源、生成及其在市场中的作用问题。极为可贵的是，他不但用精美细致的博弈模型展示出了哈耶克自发社会秩序的生成机制，而且在一个假定的自然状态背景下，通过一个精美的博弈模型展示了诺齐克的国家创生理论。
美国明尼苏达大学经济学教授赫尔维茨和斯坦福大学名誉教授、曾任日本产业研究所所长的青木昌彦各自对“制度”做出了独到的定义，从而为理解正式制度和非正式制度之间的关系开辟了新的道路，使对非正式制度的分析更具有操作性。赫尔维茨给出了制度的技术性定义，其定义侧重于博弈规则的实施问题。根据他的观点，博弈规则可以表述为给定任何环境下参与人能够选择的行动（决策集）以及参与人决策的每一个组合（profile）所对应的物质结果（后果函数）。青木昌彦则进一步论证，制度可能表现为明确的、条文化的符号形式，但只有当参与人相信并接受某种具体表现形式时，该形式才能成为制度。这样， 这两种定义实质上就统一了正式制度和非正式制度，从而适合利用演化博弈论来研究。
美国约翰·霍普金斯大学制度分析权威学者H· 培顿· 扬（H. Peyton Young）是利用演化博弈论研究制度的代表学者。自90年代以来，扬等学者建立起以“随机稳定均衡”（Stochastically Stable Equilibrium）和学习模型为中心的演化博弈理论。他们所强调的制度是一个社会习俗、传统和行为规范，这些制度的起源及其变迁是在一个演进稳定的博弈结构中进行的。在整个博弈的框架下，他们致力发展一个由认识能力和学习模型支持的制度演化理论。
与扬等学者的观点不同，青木昌彦认为制度的本质是参与人行动选择的自我实施规则，在重复博弈的状况下，它能规制参与人的持续不断的互动过程，而且规则不是外生给定的，而是参与人通过互动产生的。
M. A. Nowak 等学者拓展了Maynard Smith 关于无数参与者情况下的演化稳定均衡概念，定义了确定参与者数目情况下的演化稳定均衡含义，并证明在确定参与者数目情况下，一个使用针锋相对（Tit-for-tat）策略的合作者可以入侵一直使用背叛策略的背叛者群体。
博弈论以研究经济行为主体的行为互动见长，尽管给定个体行为偏好、依据人与人之间的交往并结合一定模型推导演化结果，以解释政治、经济和社会制度的产生的分析方法受到一些学者的批评，重复博弈和演化博弈模型仍被学者们作为分析工具不断地应用于制度变迁分析中。