Skip To main content
defend Iceland

Is Your CTO Vibe-Coding?

Is Your CTO Vibe-Coding?

The hidden risks of vibe coding

Most of the conversation about AI and security runs in one direction: the barrier to entry for attackers is collapsing. A teenager with a chatbot can now scan, probe, and exploit at a level that used to require years of practice. That's a real problem, and it deserves the attention it gets.

But there's a quieter risk that almost nobody is talking about. One that doesn't come from the attacker's side of the keyboard at all. It comes from ours.

Because everyone thinks they're a programmer now.

The English-language programmer

In February 2025, Andrej Karpathy gave a name to something a lot of people were already doing. He called it "vibe coding", describing what you want in plain English and letting the model write the code, leaning on the output and follow-up prompts rather than reading the code yourself. He was honest about the scope: it's great for "throwaway weekend projects" and prototypes.

The term went viral. Merriam-Webster picked it up. Collins named it Word of the Year for 2025. And somewhere along the way, the "throwaway weekend project" caveat got lost.

Now the founder sketches the MVP. The product manager ships the internal tool. And yes, the over-enthusiastic CTO spins up the demo that ends up in front of customers. The code works. It looks real. It feels like engineering. The problem is that "feels like engineering" and "is engineering" are not the same thing, and the gap between them is exactly where the vulnerabilities live.

What we found when we tested our own AI Defender

We ran into this firsthand. While testing our AI-defender, Iceland's first fully automated AI hackbot, we needed demo applications to show it in action. So we built three of them using pure vibe coding. No hand-written code, no manual review. Just prompts.

App #1 - the deliberate one

For the first app, we asked the AI to introduce specific, known vulnerabilities so we'd have something concrete for the defender to catch. Interestingly, the model fought us. It kept refusing on security grounds, over and over, until we framed the request as educational. Then it complied. (Worth noting: that guardrail is doing its job for outright "write me something malicious" prompts. Keep that in mind for what comes next.)

App #2 - the honest one

Then we got curious. What if we didn't ask for vulnerabilities at all? What if we just vibe-coded the way an excited, non-security-minded CTO would "build me an app that does X," ship it, move on? So we did exactly that, in a fresh session with zero shared context with the first app.

The result was the part that actually unsettled us. The "honest" app shipped with just as many serious vulnerabilities as the one where we had explicitly asked for them. Same class of problems. Same severity. The only difference was that with App #1 we had to talk the model into it, and with App #2 we got it for free, simply by not thinking about security, exactly the way most people don't.

App #3 - the confirmation

Skeptical that we'd gotten unlucky, we repeated the experiment on a different platform. Again, no request for vulnerabilities. Just "build the thing." And again it handed us a security hole, this time a NoSQL injection sitting in production-shaped code that looked perfectly fine on the surface.

Three apps, three confirmations. The model that refused to be insecure when asked directly was perfectly happy to be insecure when nobody mentioned security at all.

This isn't just our anecdote

We went looking to see whether our three little experiments were a fluke. They weren't.

  • Roughly 45% of AI-generated code introduces an OWASP Top 10 vulnerability, according to Veracode's testing across more than 100 models. The Cloud Security Alliance's own testing landed on a security pass rate of only about 55%, pointing to a similar failure rate.
  • Look at whole applications rather than individual snippets and it gets worse: one Q1 2026 analysis found 91.5% of complete vibe-coded apps contained at least one flaw across their components.
  • Georgetown's CSET found that 86% of AI-generated code failed to defend against cross-site scripting. A separate CodeRabbit analysis found that AI-written code is roughly 2.74x more likely to introduce an XSS vulnerability than human-written code.
  • A large scan by Escape.tech of 5,600 vibe-coded apps surfaced over 2,000 vulnerabilities! including 400+ exposed secrets and 175 instances of leaked personal data.

The pattern is consistent. The model isn't malicious. It's doing what you asked. The trouble is that "what you asked" almost never includes "...and make it secure," because the person prompting doesn't know what to ask for. The guardrail that blocks "write me a SQL injection" does nothing about the SQL injection that simply falls out of "build me a login page", because nobody framed it as a security request. The vulnerability arrives uninvited.

And even if you were to ask for "secure" code. There are no guarantees that secure code is what is delivered.

AI lets us make mistakes faster

Here's the reframe worth holding onto. Vibe coding doesn't make you a worse engineer, it makes you a faster one. And speed is neutral. It accelerates good decisions and bad ones equally.

For an experienced engineer who reads every line, that acceleration is a superpower. For someone who treats the output as a finished product because it compiles and the demo runs, it's a superpower pointed in the wrong direction. AI gives us the ability to make mistakes faster, and it's dangerously easy to lose yourself in the joy of how quickly it all comes together.

There's a grim symmetry to the whole situation. Attackers are using AI to turbocharge how fast they find vulnerabilities. The last thing we should be doing is turbocharging how fast we ship them, handing the other side a bigger, softer target and, in effect, helping them along. The barrier to entry didn't just drop for hackers. It dropped for the people writing the code they'll attack.

So what should the enthusiastic CTO actually do?

Not stop. To be clear: vibe coding is genuinely fantastic. For rapid prototyping, for getting an idea in front of stakeholders, for letting a non-engineer founder demonstrate a vision instead of just describing it. It's one of the best tools we've ever had. Our own demo apps existed because of it.

The line isn't "AI bad." The line is where the prototype stops and the product begins. Before anything touches real users or real data:

  • Have experienced engineers vet the final product. Not skim it... read it! The vulnerabilities we found were invisible from the demo and obvious from the code.
  • Run rigorous security testing. Static analysis, dependency scanning, secrets detection, and proper penetration testing, the same bar you'd hold human-written code to, because the code doesn't care who, or what, wrote it.
  • Treat "the AI wrote it" as a reason for more scrutiny, not less. The model's confidence is not evidence of correctness.

The bright side

None of this is an argument against AI. Quite the opposite. The same technology that quietly slips a NoSQL injection into your demo is also extraordinary at finding that injection when you point it in that direction. AI is an astonishing tool. But it's still a tool, and like every powerful tool before it, it delivers excellent results in the right hands and expensive ones in the wrong grip.

So, is your CTO vibe-coding? Probably. Honestly, they should be. It's a wonderful way to think out loud in code. Just make sure that somewhere between the vibe and the launch, someone who knows exactly what to look for reads the thing.

That's not a limitation of AI. That's how you get the best out of it.

This article was written by Guðmundur Karl Karlsson with AI assistance

Sources:

Deila

Aðrar fréttir

Sjá allar fréttir
Landspítali

Multiple Landspitali Employee Domain Accounts at Risk of Compromise

This report details a critical security vulnerability discovered within Landspitalinn's systems through the Defend Iceland bounty program. A series of chained vulnerabilities and misconfigurations were identified, allowing attackers to compromise multiple employee credentials and register multi-factor authentication (MFA) to themselves.

Lesa meira
Public disclosure for a healthier cybersecurity culture

Public disclosure for a healthier cybersecurity culture

Landspitali is the leading hospital in Iceland and the largest workplace for employees in health care. It is funded by the Ministry of Welfare, supervised by the Directorate of Health and provides specialised and general care and has the capacity of approx. 700 beds. To say that it is an important organisation in Iceland is an understatement and almost every Icelander relies on their services in some way.

Lesa meira
How I found all corporate usernames in Iceland

How I found all corporate usernames in Iceland

One of my favorite methods to gain initial access to companies is finding valid credentials. If your target is just one employee, this might be near impossible. But what if you have hundreds, or even thousands of targets? What if the target victim is anyone in Iceland? Then gaining valid credentials goes from near impossible to near certain.

Lesa meira
When Retired Domains Come Back to Haunt: The Hidden Risk of Legacy Corporate Assets

When Retired Domains Come Back to Haunt: The Hidden Risk of Legacy Corporate Assets

Organizations evolve through mergers, acquisitions, and rebranding. Old domains get retired, but what happens when those domains can still receive password resets or act as the login email for third-party services for the previous owner? This post reveals an overlooked vulnerability we've seen through Defend Iceland's bug bounty platform: expired corporate domains that remain deeply embedded in third-party SaaS accounts. When these domains become available for registration, attackers can inherit access to SaaS accounts that still use the retired email domain for login or recovery. We'll show you exactly how this happens and why "just let it expire" is a dangerous domain retirement strategy.

Lesa meira
XSS Beyond the Perimeter: When Internal Systems Become Attack Surfaces

XSS Beyond the Perimeter: When Internal Systems Become Attack Surfaces

Cross-site scripting (XSS) is often treated as a problem that ends at the public perimeter. In reality, customer input does not stop at the landing page. It flows into CRMs, ticketing consoles, and internal dashboards that may never have faced a penetration test. This walkthrough, based on real reports to Defend Iceland, shows how a harmless contact form can compromise the helpdesk staff who read it. To illustrate the chain end to end, we built a Netbankinn-themed lab that mirrors what we see in production environments. The public site is squeaky clean. The internal system is not, and an ezXSS payload turns one support ticket into full access to the staff's browser context.

Lesa meira
Hvernig villuveiðigáttir hjálpa þér að uppfylla NIS2

Hvernig villuveiðigáttir hjálpa þér að uppfylla NIS2

Ný tilskipun Evrópusambandsins um net- og upplýsingaöryggi, NIS2, er yfirvofandi og gerir auknar kröfur til mikilvægra og nauðsynlegra aðila um netöryggi, áhættustýringu og upplýsingagjöf. Fyrirtæki sem falla undir tilskipunina þurfa nú að sýna fram á aukna öryggisvitund, skilvirkari viðbragðsáætlanir og betri stjórn á veikleikum. Ein skynsamleg og hagkvæm leið til að ná þessum markmiðum er með villuveiðigáttum og stefnu um ábyrga upplýsingagjöf öryggisveikleika (e. coordinated vulnerability disclosure).

Lesa meira
404 Villa Happy Hour Fannst ekki!

404 Villa Happy Hour Fannst ekki!

Defend Iceland býður í Happy Hour með netöryggis- og varnarmála ívafi í samstarfi við miðstöð stafrænnar nýsköpunar (EDIH-IS) og Rannís. Viðburðurinn er opinn öllum sem hafa áhuga en skráning er nauðsynleg.

Lesa meira
Guðmundur Fertram fjárfestir í Defend Iceland

Guðmundur Fertram fjárfestir í Defend Iceland

Við hjá Defend Iceland erum stolt af því að tilkynna nýja fjárfestingu frá fjárfestingafélagi í eigu Guðmundar Fertrams Sigurjónssonar, stofnanda Kerecis, og fjölskyldu hans. Með þessari fjárfestingu styðja þau við framtíðarsýn okkar um öruggara stafrænt samfélag með þróun á villuveiðigátt okkar og öðrum lausnum. Ísland er fyrsti markaðurinn þar sem þessi tækni verður sannreynd og prófuð í raunumhverfi.

Lesa meira
Jason Haddix, forstjóri Arcanum Security

Einn færasti hakkari heims heldur námskeið á Íslandi í öryggisveikleika leit (e. Vulnerability hunting)

Jason Haddix, einn færasti hakkari heims og forstjóri Arcanum Security, er væntanlegur til landsins í næstu viku og mun leiða námskeið í öryggisveikleika leit í samstarfi við Defend Iceland dagana 21. - 23. janúar í Háskólanum í Reykjavík. Jason kemur frá Bandaríkjunum og er með yfir 20 ára reynslu í netöryggi auk þess hefur hann hlotið viðurkenningu sem einn af fremstu sérfræðingum á villuveiðigáttum (Bug Bounty Platform). Alþjóðleg fyrirtæki á borð við Apple, Microsoft, Google, KPMG, Deloitte, Amazon, Walmart og fleiri hafa reglulega nýtt sér námskeið og þekkingu Jason Haddix.

Lesa meira
Spennandi áfangi hjá Defend Iceland

Spennandi áfangi hjá Defend Iceland

Við fórum í loftið í febrúar á þessu ári og erum stolt af því að vera komin í samstarf við 26 frábæra viðskiptavini. Þessir aðilar spanna öll svið samfélagsins, frá stórum hluta fjármálageirans til lykilaðila í orku- og heilbrigðisgeiranum - og nú Alþingi Íslendinga.

Lesa meira
Defend Iceland gerir samning við Origo til að efla netöryggi

Defend Iceland gerir samning við Origo til að efla netöryggi

Í samtengdu stafrænu landslagi nútímans hefur öryggi hugbúnaðar eins fyrirtækis áhrif á alla. Nýlegt atvik CrowdStrike og „bláskjár dauðans“ - sem leiddi til lokunar flugvalla um allan heim - eru áminningar um hvernig jafnvel einn öryggisveikleiki getur komið af stað keðjuverkun með gríðarlegum afleiðingum.

Lesa meira
Erindi Tedda á netöryggisráðstefnu Fjarskiptastofu

Erindi Tedda á netöryggisráðstefnu Fjarskiptastofu

Í dag var Fjarskiptastofa/ECOI með netöryggisráðstefnu þar sem Theódór Ragnar Gíslason, framkvæmdastjóri okkar og stofnandi, var með erindi þar sem hann varpaði fram eftirfarandi spurningu: Erum við einum veikleika frá game over? Hvaða veikleiki væri svo krítískur á birgðahliðinni að það hefði gríðarleg áhrif ekki aðeins á fyrirtækið þitt heldur líka á samfélagið okkar?

Lesa meira
Pallborð á málþingi Rannís - Vegferð styrkjaumsókna og ráð frá þátttakendum

Pallborð á málþingi Rannís - Vegferð styrkjaumsókna og ráð frá þátttakendum

Hörn Valdimarsdóttir frá Defend Iceland sat í pallborði á málþingi Rannís á dögunum þar sem umræðuefnið var „Vegferð styrkjaumsókna og ráð frá þátttakendum”. Málþingið var einskonar stöðutaka á árangri Íslands á fyrstu þremur árum rammaáætlunar og vettvangur þar sem þátttakendur og mögulegir umsækjendur um rammáætlanir gátu borið saman bækur sínar og kynnst. Styrkurinn sem við fengum frá Rannís hefur sannarlega gert vegferð okkar auðveldari og er meðal þess sem varð til þess að hugmyndin um öruggara stafrænt Ísland gat orðið að veruleika!

Lesa meira
DrupalCon Europe 2024

DrupalCon Europe 2024

Við erum spennt að segja frá því að stofnandi okkar og framkvæmdastjóri, Theódór Ragnar Gíslason, flutti hvetjandi erindi á hinni virtu ráðstefnu, DrupalCon Europe sem haldin var í Barcelona í ár. Þar lagði Teddi áherslu á framtíðarsýn og vegferð Defend Iceland! Vegferðin frá því að vera ungur hakkari yfir í að stofna netöryggisfyrirtæki eins og Syndis og Defend Iceland var ekki alltaf auðveld! Kærar þakkir til Baddy Sonja Breidert og flotta teymisins hjá 1xINTERNET fyrir ómetanlegan stuðning.

Lesa meira
Defend Iceland og Stafrænt Ísland í samstarf um netöryggi

Defend Iceland og Stafrænt Ísland í samstarf um netöryggi

Stafrænt Ísland og Defend Iceland hafa skrifað undir samning um samstarf á sviði netöryggis. Tilgangur samningsins er að nýta villuveiðigátt Defend Iceland til að finna öryggisveikleika í kerfum Stafræns Íslands og auka þannig og styrkja varnir gegn netárásum.

Lesa meira
Segir afsökun Microsoft lélega

Segir afsökun Microsoft lélega

„Persónulega finnst mér þetta léleg afsökun,“ segir Theodór R. Gíslason, stofnandi Defend Iceland, þar sem hann gagnrýnir Microsoft vegna viðbragða fyrirtækisins við öryggisbilun sem olli stórfelldri truflun á föstudaginn.

Lesa meira
Hjörtur Pálmi Pálsson

Stýrir uppbyggingu samfélags netöryggissérfræðinga

Hjörtur Pálmi Pálsson hefur gengið til liðs við Defend Iceland og mun hann stýra uppbyggingu samfélags netöryggissérfræðinga fyrirtækisins auk þess að leiða greiningu og úrvinnslu þeirra öryggisveikleika sem finnast hjá viðskiptavinum Defend Iceland. Greint er frá ráðningu hans í fréttatilkynningu.

Lesa meira
Skagi og Defend Iceland í samstarfi

Skagi og Defend Iceland í samstarfi

Skagi og Defend Iceland hafa gert samning um aðgang að hugbúnaði villuveiðigáttar fyrirtækisins til að fyrirbyggja árásir á net- og tölvukerfi Skaga, en í samstæðu Skaga eru VÍS, Fossar fjárfestingarbanki og SIV eignastýring.

Lesa meira
Brimborg og Defend Iceland í samstarf um netöryggi

Brimborg og Defend Iceland í samstarf um netöryggi

Brimborg hefur samið við netöryggisfyrirtækið Defend Iceland um aðgang að villuveiðigátt fyrirtækisins til að styrkja enn frekar varnir félagsins gagnvart netárásum, afla þekkingar á veikleikum tölvukerfa þess og miðla til eflingar netöryggis á Íslandi. Í samningnum felst að öryggissérfræðingar Defend Iceland munu nýta forvirkar öryggisaðgerðir til að leita að öryggisveikleikum, með því að herma aðferðir netárásarhópa og tölvuþrjóta, og tryggja þannig að hægt sé að laga veikleikana áður en þeir verða notaðir til netinnbrota.

Lesa meira
Gætu þurft að líta á netárásir sem hernað

Gætu þurft að líta á netárásir sem hernað

Netárásum hefur fjölgað verulega á Íslandi eftir að Rússar réðust inn í Úkraínu í febrúar 2022. Líklegt þykir að netþrjótarnir sem réðust á kerfi Árvakurs í gær tengist rússneskum glæpasamtökum – og jafnvel Kreml.

Lesa meira
Höfuðstöðvar Morgunblaðsins

Þetta er hópurinn sem gerði árás á Morgunblaðið

Rússneski hakkarahópurinn Akira er sagður hafa staðið á bak við árás á tölvukerfi Morgunblaðsins með þeim afleiðingum að gríðarlegt magn gagna var tekið í gíslingu. Vegna þessa lá fréttavefur Morgunblaðsins niðri í um þrjár klukkustundir og útsendingar K100 lágu niðri.

Lesa meira
Kóði og Defend Iceland í samstarf

Kóði og Defend Iceland í samstarf

Kóði og netöryggisfyrirtækið Defend Iceland hafa gert samning um aðgang að hugbúnaði villuveiðigáttar fyrirtækisins til að fyrirbyggja árásir á net- og tölvukerfi Kóða.

Lesa meira
Heiðarlegir hakkarar til varnar

Heiðarlegir hakkarar til varnar

Netöryggismál eru Theódóri Ragnari Gíslasyni hugleikin enda nauðsynlegt að huga að örygginu þegar viðkvæmar upplýsingar eru annars vegar. Fyrirtæki hans, Defend Iceland, aðstoðar fyrirtæki við að koma auga á veikleikana svo hægt sé að tryggja að ekki verði gerðar netárásir sem geta valdið miklum skaða eða viðkvæmum upplýsingum stolið. Theódór hyggst auka stafrænt öryggi Íslands og svo nýta þá reynslu víðar í hinum stóra heimi.

Lesa meira
Reiknistofa bankanna og Defend Iceland í samstarf

Reiknistofa bankanna og Defend Iceland í samstarf

Reiknistofa bankanna hefur samið við netöryggisfyrirtækið Defend Iceland um aðgang að hugbúnaði villuveiðigáttar fyrirtækisins. Með notkun villuveiðigáttarinnar nýtir Reiknistofa bankanna nýjustu aðferðir í netöryggi til að tryggja öryggi innviða fjármálakerfisins.

Lesa meira
Netöryggisfundur Defend Iceland

Netöryggisfundur Defend Iceland

Netöryggisfyrirtækið Defend Iceland, ásamt Rannís, Háskólanum í Reykjavík og Miðstöð stafrænnar nýsköpunar (EDIH-IS), hélt á dögunum hádegisfund í Grósku þar sem sjónum verður beint að forvirkum netöryggisráðstöfunum.

Lesa meira
Netárásir geta lamað samfélagið

Netárásir geta lamað samfélagið

Háskólinn í Reykjavík hefur enn ekki greitt lausnargjald fyrir gögn sem stolið var af rússneskum hakkarahópi í byrjun árs. Þrátt fyrir það hafa gögnin ekki verið birt. Lektor í tölvunarfræði segir þetta óvenjulegt fyrir hópinn en fleiri íslensk fyrirtæki hafi lent í því sama.

Lesa meira
Íslandsbanki semur um villuveiðigátt Defend Iceland

Íslandsbanki semur um villuveiðigátt Defend Iceland

Íslandsbanki er á meðal fyrstu fyrirtækja til að taka í notkun villuveiðigátt Defend Iceland, en í henni leiða saman krafta sína öryggissérfræðingar úr mörgum áttum og með ólíkan bakgrunn til að koma í veg fyrir alvarleg innbrot í net-, tölvu- og hugbúnaðarkerfi fyrirtækja og stofnana.

Lesa meira
Arion banki semur við Defend Iceland

Arion banki semur við Defend Iceland

Arion banki hefur gert samning við netöryggisfyrirtækið Defend Iceland um aðgang að hugbúnaði villuveiðigáttar fyrirtækisins. Í samningnum felst að öryggissérfræðingar Defend Iceland herma netárásir hakkara og árásarhópa í því skyni að finna veikleika í kerfum bankans svo hægt sé að lagfæra þá áður en þeir valda alvarlegum skaða.

Lesa meira
Fyrsta villuveiðigáttin fer vel af stað

Fyrsta villuveiðigáttin fer vel af stað

Íslensk fjármálafyrirtæki eru meðal þeirra sem taka þátt í villuveiðigátt Defend Iceland. Nú þegar hafa heiðarlegir hakkarar fengið greitt milljónir fyrir að benda á öryggisgalla og koma fyrirtækjum frá tilheyrandi tjóni.

Lesa meira
Tilkynna veikleika