V čase 2. svetovej vojny, v roku 1940, prišiel vtedy dvadsaťpäťročný brat Roger Schutz na bicykli zo Švajčiarska, kde sa narodil a kde vyštudoval teológiu, do Francúzska, rodnej krajiny svojej matky. Od mladosti v ňom dozrievala túžba založiť komunitu bratov, ktorá by sa stala kvasom zmierenia v ľudskej rodine.
Vo Francúzsku dorazil do Cluny, ktoré poznal ako centrum stredovekého mníšskeho života. Práve tu sa dozvedel, že v neďalekej dedine Taizé je na predaj dom. Brat Roger sa v Taizé usadil. Čoskoro začal v jednoduchých podmienkach ukrývať vojnových utečencov, predovšetkým Židov. Pripojila sa k nemu aj jedna z jeho sestier, Geneviève. V roku 1942 boli varovaní, že boli odhalení, preto sa súrodenci uchýlili späť do rodného Švajčiarska. Do Taizé sa mohol vrátiť až v roku 1944 a vtedy sa k nemu pripojili aj prví bratia, ktorí sa s ním zoznámili vo Švajčiarsku.
Po vojne sa brat Roger s ostatnými bratmi a opäť s pomocou sestry Geneviève začal starať o niekoľko miestnych sirôt. V roku 1949 mala komunita už sedem bratov, ktorí na Veľkú noc prijali záväzok spoločného života v prostote a celibáte. V zime 1952 - 1953 napísal brat Roger pre komunitu Pravidlá Taizé a stal sa jej prvým predstaveným. Spolu s ďalšími bratmi sa zúčastnil 2. vatikánskeho koncilu ako pozorovateľ.
Dôležitou udalosťou v živote komunity bola návšteva pápeža Jána Pavla II. v Taizé v októbri roku 1986.
Zakladateľ komunity a jej prvý predstavený, brat Roger, bol 16. 8. 2005 počas večernej modlitby napadnutý a usmrtený psychicky chorou návštevníčkou. Mal vtedy deväťdesiat rokov. Nástupcom brata Rogera vo funkcii predstaveného sa stal brat Alois, katolík pochádzajúci z Nemecka, ktorý do komunity vstúpil už roku 1974. Od decembra 2023 je predstaveným komunity britský anglikán brat Matthew.
Rytmus života komunity udávajú modlitby, ktoré sa konajú trikrát denne. Bratia neprijímajú žiadne dary alebo dotácie, dokonca aj osobné dedičstvo využívajú na pomoc núdznym. Živia so svojou prácou: vydávajú knihy, CD, DVD, vyrábajú keramiku a podobne.
Od päťdesiatych rokov 20. storočia niektorí bratia žijú dlhší alebo kratší čas v malých skupinkách, tzv. fraternitách, v krajinách predovšetkým rozvojového sveta, aby zdieľali život s najchudobnejšími obyvateľmi.
Koncom päťdesiatych rokov 20. storočia začalo Taizé navštevovať množstvo predovšetkým mladých ľudí. Bratia hľadali spôsob, akým by sa mohli všetci mladí ľudia zapojiť do pravidelných modlitieb komunity; pôvodne boli totiž náplňou modlitieb predovšetkým chválospevy, hymny a žalmy spievané vo francúzštine. Postupne sa v Taizé začali používať krátke, stále sa opakujúce spevy meditatívneho charakteru spievané v rôznych jazykoch, ktoré je ľahké sa naučiť.
Stretnutie mladých
Počas celého roka sa v Taizé konajú stretnutia mladých vo veku 17 – 30 rokov. Zároveň komunitu navštevujú aj dospelí a v určitých obdobiach roka môžu prísť aj rodiny s deťmi. V súčasnosti môže byť v Taizé naraz až 7 tisíc ľudí, ktorí prichádzajú zo všetkých štátov Európy aj z ďalších svetadielov. Stretnutia majú týždenný charakter. Mladí ľudia môžu prísť aj na dlhší čas ako dobrovoľníci, aby tu pomáhali s prijatím pútnikov, hľadali, čo chcú v živote robiť a zažili život v spoločenstve a modlitbe. Počas pobytu sú sprevádzaní vždy buď jedným bratom (muži) alebo sestrou (ženy), ktorí ich počúvajú a pomáhajú im rozlišovať, čo je pre nich dôležité.