År 829 kom en svensk delegation till kejsaren och bad om en missionär till Sverige. Ansgar sändes då till Birka, som vanligtvis förläggs till Björkö i Mälaren, där han under sex månader predikade och grundade en liten kristen församling. Hans arbete i Sverige var fyllt av svårigheter. I Rimberts krönika berättas:
”De råkade ut för sjörövare, när de hade hunnit ungefär halvvägs. De köpmän som var med på resan försvarade sig tappert och fick först överhanden, men till sist blev de ändå besegrade av sjörövarna, så att de blev fråntagna fartygen och allt vad de hade och själva med knapp nöd lyckades ta sig i land och undkomma till fots. På så sätt förlorade de de gåvor från kejsaren som de skulle ha haft med sig till svenskarna … Bland annat miste de nästan fyrtio böcker, som de hade samlat ihop för gudstjänsten men som nu föll i rövarnas händer.”
De fick sedan ta sig fram till fots tills de kom fram till handelsstaden Birka på Björkö i Mälaren som hade anlagts i mitten av 700-talet och övergavs 975 då Sigtuna tog över som Svearnas centralort. Där blev de vänligt mottagna av landets kung, Björn:
”När kungen hade fått reda på deras uppdrag, diskuterade han saken med sina män och gav dem sedan med allas bifall tillstånd att vistas där och predika Kristi evangelium”.
I Rimberts krönika berättas om en kvinna som kallas mor Frideborg (död 851) som sannolikt är en av de allra första ”svenska” kvinnor som nämns i skrift och en av de allra första som blev döpta av Ansgar. Hon var en välbärgad änka med en vuxen dotter, Katla. När Ansgar kom till Birka med sin assistent Witmar erbjöd hon dem husrum. De beskrev henne som en vänlig och omhändertagande kvinna. Hon blev känd för sin fromhet och sägs ha skänkt sina tillgångar till de fattiga. Det enda hon behöll var, enligt Rimbert, så mycket vin att det räckte till att ta emot nattvarden vid hennes dödsbädd.
Många av de som kom att tillhöra Ansgars församling i Birka kan ha varit krigsfångar och slavar som rövats från kristna områden. Slavhandeln var en betydande del av den nordiska ekonomin och i en stad som Birka har det därför säkert funnits många kristna redan innan Ansgar kom dit. När Ansgar återvände från resan skrev han en rapport som uttryckte tillförsikt om missionsarbetet i Birka.